import os
from collections import defaultdict
import cv2
import matplotlib.pyplot as plt
import numpy as np
import torch
import torch.nn as nn
import torch.optim as optim
from torchvision import transforms
import torchvision
import wandb
from helpers.generate_dataclass import SegmentationDataset
from helpers.plottingaftertraining import plot_samples_binary
from helpers.testing import test_binary
from helpers.training import train_binary
from helpers.validating import validation_binary
from PIL import Image
from torch.utils.data import DataLoader
torch.manual_seed(0)
np.random.seed(0)
Hinweis zu ChatGPT: Gewisse Codes wurden zusammen mit ChatGPT erstellt und so beschriftet. "Zusamen mit..." bedeutet, dass kaum Codes einfach von ChatGPT übernommen werden konnten. In der Regel musste ich sie Schritt für Schritt kontrollieren und die Fehler wurden zusammen debuggt.
EDA¶
Im ersten Teil werde ich die Datenanalyse durchführen. Ich werde dabei die Bilder visuell und qualitativ untersuchen. Zuerst führe ich die Untersuchung auf den originalen Bildern durch. Danach werde ich sie mittels Dataloader einlesen und einerseits untersuchen, ob dabei Fehler passieren und danach untersuche ich die Bilder vertieft.
Anzahl vorhandener Bilder¶
def count_images(folder):
return len([name for name in os.listdir(folder)])
train_count = count_images('data/train/images')
test_count = count_images('data/test/images')
validation_count = count_images('data/validation/images')
print("Anzahl der Bilder in Train:", train_count)
print("Anzahl der Bilder in Test:", test_count)
print("Anzahl der Bilder in Validation:", validation_count)
Anzahl der Bilder in Train: 1385 Anzahl der Bilder in Test: 199 Anzahl der Bilder in Validation: 396
Im meinem Datensatz sind 1'385 Trainingsbilder, 200 Testbilder und 400 Bilder für die Verifikation vorhanden. Es sollten sich also um genügend Bilder handeln, um ein gutes Training durchzuführen. Der Train/Test Split ist mit 0.87 zwar relativ hoch, doch kann ich am Ende des Trainings zusätzlich die Verifikation Bilder als Test vom Modell verwenden.
Inspektion der Bilder vor einlesen¶
Folgend stelle ich zehn Bilder und deren Masken vor, wie sie in der originalen Version vorhanden sind.
image_dir = 'data/train/images/'
mask_dir = 'data/train/masks/'
image_files = sorted([os.path.join(image_dir, f) for f in os.listdir(image_dir) if f.endswith('.png')])
mask_files = sorted([os.path.join(mask_dir, f) for f in os.listdir(mask_dir) if f.endswith('.png')])
assert len(image_files) == len(mask_files)
fig, axs = plt.subplots(10, 2, figsize=(8, 20))
for i in range(10):
# Bild
image = Image.open(image_files[i])
axs[i, 0].imshow(image)
axs[i, 0].set_title(f'Beispiel {i + 1}: Bild')
# Maske
mask = Image.open(mask_files[i])
axs[i, 1].imshow(mask, cmap="gray")
axs[i, 1].set_title(f'Beispiel {i + 1}: Maske')
plt.tight_layout()
plt.show()
Erkennbar ist grösstenteils bewaldetes Terrain. Dies ist neben der grünen Farbe auch leicht an der Wölbungen der Baumkronen erkennbar. Daneben fallen hellbraune Flecken auf, die versplittert über die Bilder verteilt sind. Anhand der Masken wird ersichtlich, dass es sich hierbei grösstenteils um die gesuchten Erdrutsche handelt. Diese kommen sehr unterschiedlich (in Bezug auf Form, Grösse und Häufigkeit), aber in jedem der angeschauten Bilder vor. Allerdings ist die Farbe keine Garantie, dass es sich um einen Erdrutsch handelt. Ich vermute, dass die restlichen braunen Formen, meistens schlangenförmig, Bäche oder Strassen sind. In weiteren angeschauten Bildern treten Bäche und Flüsse häufig auf und können einfach mit Erdrutschen verwechselt werden. Weiter sind die Wälder meistens relativ dunkel.
Die Masken selber scheinen nur aus zwei Farben, schwarz und weiss zu bestehen. Gemäss der Dokumentation der Challenge steht Klasse 0 (was der Farbe Schwarz entspricht), für Hintergrund und Klasse 1 (weiss) für Erdrutsche. Es wird auch ersichtlich, dass meistens deutlich mehr Hintergrund vorhanden ist.
Überprüfung der Klassen in den Train Masken¶
Folgend untersuche die Farbmodi der Bilder und eine weitere Idee der Daten und notwendigen Aufbereitung zu erhalten. Gemäss Lones untersuche ich nicht alle Daten, sondern beschränke mich auf die Trainingsbilder, die rund 70% des Datensatzes ausmachen.
mode_counter_images = {}
for image_file in image_files:
image_mode = Image.open(image_file).mode
if image_mode in mode_counter_images:
mode_counter_images[image_mode] += 1
else:
mode_counter_images[image_mode] = 1
print("Bilder: ", mode_counter_images)
mode_counter_masks = {}
for mask_file in mask_files:
mask_mode = Image.open(mask_file ).mode
if mask_mode in mode_counter_masks:
mode_counter_masks[mask_mode] += 1
else:
mode_counter_masks[mask_mode] = 1
print("Masken: ", mode_counter_masks)
Bilder: {'RGBA': 1385}
Masken: {'RGBA': 1385}
Sämtliche Bilder und Masken sind im Modus RGBA enthalten. Damit sollten keine speziellen Hürden bei dem Einlesen entstehen.
Folgend untersuche ich die Annahme, dass in den Masken nur zwei Klassen enthalten sind.
unique_values = set()
for mask_path in mask_files:
mask = Image.open(mask_path)
values = np.unique(np.array(mask))
unique_values.update(values)
print("Anzahl unterschiedlicher Klassen/Farbtöne: ", len(unique_values))
print("Die unterschiedlichen Klassen/Farbtöne: ", values)
Anzahl unterschiedlicher Klassen/Farbtöne: 2 Die unterschiedlichen Klassen/Farbtöne: [ 0 255]
Wie erwähnt sind gemäss Dokumentation in den Masken nur zwei Klassen vorhanden. Farbton 0 entspricht, wie bei der visuellen Inspektion gesehen, der Klasse 0 und Farbton 255 den Erdrutschen. Ich werde diese Daten also in binär 0/1 umwandeln können.
Überprüfung der unterschiedlichen Bildgrössen im Traindatensatz¶
Unterschiedliche Grössen der Bilder können das Training von Modellen erschweren. Ich werde deshalb auch diese Daten untersuchen.
unique_image_sizes = set()
unique_mask_sizes = set()
for image_file in image_files:
with Image.open(image_file) as img:
unique_image_sizes.add(img.size)
for mask_file in mask_files:
with Image.open(mask_file) as mask:
unique_mask_sizes.add(mask.size)
print("Einzigartige Bildgrößen:", unique_image_sizes)
print("Einzigartige Maskengrößen:", unique_mask_sizes)
Einzigartige Bildgrößen: {(128, 128)}
Einzigartige Maskengrößen: {(128, 128)}
Sämtliche Bilder und Masken haben die Grösse 128 x 128. Ich werde vorerst keinen Resize einbauen müssen. Höchstens wenn später fremde Bilder, die nicht in dem Datensatz vorhanden sind und entsprechend aufbereitet wurden, untersucht werden wollen, muss ein Resize berücksichtigt werden.
Einlesen der Bilder für EDA¶
Nun werde ich die Daten in das Format, das für das Training notwendig ist, einlesen. Esi st wichtig, diese Bilder nochmals visuell zu untersuchen, da Transformationen durchgeführt werden und ich sicherstellen möchte, dass diese korrekt funktionieren. Im folgenden Beispiel werde ich die Daten aber nur in einen Tensor umwandeln, da ich die Bilder später auch qualitativ untersuche. Dabei sollen Transformationen wie Normalisierung die Resultate nicht verfälschen.
eda_train_data = SegmentationDataset(root='data', split='train', transform_mode='to_tensor')
eda_train_loader = DataLoader(eda_train_data, batch_size=64, shuffle=False)
eda_train_data_augmentation = SegmentationDataset(root='data', split='train', transform_mode='color_jitter')
eda_train_loader_augmentation = DataLoader(eda_train_data_augmentation, batch_size=64, shuffle=False)
Inspektion der Bilder nach einlesen¶
Neben der Darstellung der Bilder ohne Bearbeitungen, zeige ich sie rechts daneben zusätzlich mit der Augmentation an. So kann zusätzlich direkt überprüft werden, ob sie korrekt funktioniert und welchen Einfluss sie hat.
images, masks = next(iter(eda_train_loader))
augmented_images, augmented_masks = next(iter(eda_train_loader_augmentation))
fig, axs = plt.subplots(20, 4, figsize=(16, 40))
for i in range(20):
image = images[i].numpy().transpose((1, 2, 0))
axs[i, 0].imshow(image)
axs[i, 0].set_title(f'Beispiel {i + 1}: Bild ohne Augmentation')
mask = masks[i][0].numpy()
axs[i, 1].imshow(mask, cmap="gray")
axs[i, 1].set_title(f'Beispiel {i + 1}: Maske ohne Augmentation')
image = augmented_images[i].numpy().transpose((1, 2, 0))
axs[i, 2].imshow(image)
axs[i, 2].set_title(f'Beispiel {i + 1}: Bild mit Augmentation')
mask = augmented_masks[i][0].numpy()
axs[i, 3].imshow(mask, cmap="gray")
axs[i, 3].set_title(f'Beispiel {i + 1}: Maske mit Augmentation')
plt.tight_layout()
plt.show()
Im Vergleich zu den zuvor angeschauten Bildern fällt mir die grössere Bandbreite an Farben und Helligkeiten bei den Bildern auf. Ersichtlich werden auch die erwähnten Flüsse, die ich teilweise mit Erdrutschen verwechselt habe. Insgesamt stimmen die Bilder (und der Qualität) weiterhin und die Masken entsprechen den dazugehörenden Bildern.
Ich habe auch die beiden Transformations-Methoden "normalize", "flip" (inkl. Normierung) und "Color Jitter" (inkl Normierung) untersucht und konnte keine Probleme feststellen. Das Einlesen der Bilder funktioniert also wie gewünscht.
Überprüfung der Bildergrössen¶
Ich bestätigte kurz, dass die Bilder weiterhin die gleiche Grösse aufweisen.
print("Grösser der Bilder:", images.shape)
print("Grösse der Masken:", masks.shape)
Grösser der Bilder: torch.Size([64, 3, 128, 128]) Grösse der Masken: torch.Size([64, 1, 128, 128])
Wie erwartet sind die Bilder weiterhin 128 x 128 gross. Der Wert 64 entspricht der gewünschten Batchsize, dieser Test ist ebenfalls positiv.
Überprüfung der Klassen in den Train Masken¶
unique_values = set()
for images, masks in eda_train_loader:
for mask in masks:
values = np.unique(mask.numpy())
unique_values.update(values)
print("Anzahl unterschiedlicher Klassen/Farbtöne: ", len(unique_values))
print("Die unterschiedlichen Klassen/Farbtöne: ", values)
Anzahl unterschiedlicher Klassen/Farbtöne: 2 Die unterschiedlichen Klassen/Farbtöne: [0. 1.]
Wie ich bei den Originalen festgestellt habe, sind in den masken nur zwei Klassen vorhanden. Ich habe sie nun in die binären Werte 0/1 umgewandelt. Bei den Masken handelt es sich also nicht mehr um Bilder im grayscale, sondern sind binär.
Verteilung der Klassen in den Train Masken¶
Das Verhältnis zwischen den Klassen kann im Deep Learning wichtig sein, weil Imbalance das Training und die Interpretation von Metriken erschweren kann. In der folgenden Zelle untersuche ich das Verhältnis der beiden Klassen in den Trainingbildern.
# Dieser Code wurde zusammen mit ChatGPT erstellt.
ratio_counter = defaultdict(int)
for _, masks in eda_train_loader:
for mask in masks:
total_pixels = mask.numel()
count_1 = torch.sum(mask).item()
count_0 = total_pixels - count_1
ratio = round(count_0 / (count_0 + count_1), 2)
ratio_counter[ratio] += 1
ratios = list(ratio_counter.keys())
counts = [ratio_counter[ratio] for ratio in ratios]
plt.bar(ratios, counts, width=0.01, color='blue')
plt.xlabel('Verhältnis von 0 zu 1')
plt.ylabel('Anzahl der Bilder')
plt.title('Verteilung der Klassenverteilung in Masken')
plt.show()
Das Histogramm zeigt auf, dass die Klassen sehr ungleichmässig verteilt sind. Die x-Achse entspricht dem Anteil Hintergrund zu Erdrutschen. Ein x-Wert von 0.9 entspricht 90% Hintergrund und 10% Erdrutsch. Die Verteilung zeigt, dass die meisten Bilder ein Verhältnis von über 0.9 aufweisen. Dies entspricht der visuellen Erkenntnis, dass viel mehr Hintergrund vorhanden ist.
Dies bedeutet, dass eine starke Imbalance vorhanden ist. Im Fall dieser Challenge gilt der F1 Score der Erdrutsche als Zielmetrik. Das ist vor dem Hintergrund der Imbalance eine gute Lösung, dass nur die Prognosen der untervertretenen Klasse berücksichtigt wird.
Verteilung der Farben in den Train Bildern¶
Die Farben und deren Verteilung geben ein qualitatives Verständnis der Bilder. Es kann herausgefunden werden, ob Bilder zum Beispiel über- oder unterbelichtet sind oder ob einzelne Farben anders häufig vertreten sind.
# Dieser Code wurde zusammen mit ChatGPT erstellt.
histogram_red = np.zeros(256)
histogram_green = np.zeros(256)
histogram_blue = np.zeros(256)
for images, _ in eda_train_loader:
images = images.cpu().numpy()
for i in range(images.shape[0]):
histogram_red += np.histogram(images[i, 0].flatten(), bins=256, range=(0, 1))[0]
histogram_green += np.histogram(images[i, 1].flatten(), bins=256, range=(0, 1))[0]
histogram_blue += np.histogram(images[i, 2].flatten(), bins=256, range=(0, 1))[0]
num_images = len(eda_train_loader.dataset)
histogram_red /= num_images
histogram_green /= num_images
histogram_blue /= num_images
plt.figure(figsize=(10, 5))
plt.title("Durchschnittliches Histogramm über alle Trainingsbilder")
plt.xlabel("Pixelintensität")
plt.ylabel("Durchschnittliche Anzahl")
plt.plot(histogram_red, color='red', label='Rot')
plt.plot(histogram_green, color='green', label='Grün')
plt.plot(histogram_blue, color='blue', label='Blau')
plt.legend()
plt.show()
Die drei Farben kommen in etwa gleich häufig vor. Mit einem Wert um 50 ist die Intensität aber eher tief. Dies ist auch in den Bildern ersichtlich, wo der Wald häufig dunkel ist.
Signal to Noise¶
Signal to Noise ist eine Metrik, die in unterschiedlichen Usecases im Bereich Signal und Bild zur Anwendung kommt. Sie liefert eine Kennzahl zur Bildqualität und misst das Signal im Verhältnis zum Noise.
def calculate_snr(image):
mean_value = np.mean(image)
std_deviation = np.std(image)
return mean_value / std_deviation
snr_values = []
for images, _ in eda_train_loader:
for image in images:
img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
snr = calculate_snr(img)
snr_values.append(snr)
average_snr = np.mean(snr_values)
max_snr = np.max(snr_values)
min_snr = np.min(snr_values)
print("Durchschnittliches SNR:", round(average_snr, 2))
print("Maximales SNR:", round(max_snr, 2))
print("Minimales SNR:", round(min_snr, 2))
Durchschnittliches SNR: 3.14 Maximales SNR: 9.72 Minimales SNR: 1.27
Ich habe kaum Angaben für ideale Werte für Bilder gefunden, laut Wikipedia) ist aber ein Verhältnis von 10 ein akzeptabler Wert. Mit einem durchschnittlichen SNR von 3.14 sind meine Bilder allerdings deutlich darunter und weisen eine hohe Schwankung auf. Dass die Bilder nicht von sehr hoher Qualität sind, habe ich bei der visuellen Inspektion gesehen, der Wert scheint aber doch sehr tief zu sein. Ich gehe nicht davon aus, dass ich ihn mit den klassichen Data Augmentation Verfahren von Pytorch merklich verbessern kann.
Untersuchung des Kontrasts¶
Für die Berechnung des Kontrasts verwende ich die RMS contrast#RMS_contrast) Methode. Der Kontrast sagt aus, wie stark sich die hellen und dunklen Bereiche eines Bildes unterscheiden.
def calculate_contrast(image):
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
return np.std(gray)
contrast_values = []
for images, _ in eda_train_loader:
for image in images:
img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
contrast = calculate_contrast(img)
contrast_values.append(contrast)
average_contrast = np.mean(contrast_values)
max_contrast = np.max(contrast_values)
min_contrast = np.min(contrast_values)
print("Durchschnittlicher Kontrast:", round(average_contrast, 2))
print("Maximaler Kontrast:", round(max_contrast, 2))
print("Minimaler Kontrast:", round(min_contrast, 2))
plt.figure(figsize=(10, 5))
plt.hist(contrast_values, bins=50, color='blue', edgecolor='black', alpha=0.7)
plt.title("Histogramm der Kontrastwerte")
plt.xlabel("Kontrastwert")
plt.ylabel("Anzahl der Bilder")
plt.legend()
plt.show()
No artists with labels found to put in legend. Note that artists whose label start with an underscore are ignored when legend() is called with no argument.
Durchschnittlicher Kontrast: 14.27 Maximaler Kontrast: 38.45 Minimaler Kontrast: 2.81
Auch hier ist es schwierig, einen idealen Wert zu finden. Wichtig ist aus meiner Sicht, dass die Bandbreite wieder sehr hoch ist. Im Histogramm wird ersichtlich, dass die meisten Werte zwischen 10 und 20 liegen.
Untersuchung der Komponenten¶
Nun werde ich die Erdrutsche untersuchen. Ich versuche herauszufinden, ob es Unterschiede zum restlichen Bild gibt.
Im ersten Schritt probiere ich die Funktionsweise von cv2.connectedComponentsWithStats aus und plotte für ein Bild die gefundenen Komponenten. Ich verwende dafür die Masken, weil dort die Komponenten entweder Hintergrund oder Erdrütsche sein müssen.
# Dieser Code wurde zusammen mit ChatGPT erstellt.
images, masks = next(iter(eda_train_loader))
# Bild und Maske extrahieren
image = images[0].numpy().transpose(1, 2, 0) # (C, H, W) zu (H, W, C)
mask = masks[0].numpy().squeeze(0)
if mask.dtype != np.uint8:
mask = mask.astype(np.uint8)
num_labels, labels, stats, centroids = cv2.connectedComponentsWithStats(mask)
print("Anzahl Komponenten: ", num_labels)
print("Grösse der Komponenten: ", stats[:, cv2.CC_STAT_AREA])
fig, ax = plt.subplots(1, 3, figsize=(18, 6))
ax[0].imshow(image)
ax[0].set_title("Originalbild")
ax[1].imshow(mask, cmap="gray")
ax[1].set_title("Original Maske")
ax[2].imshow(labels, cmap="jet")
ax[2].set_title("Verbundene Komponenten")
for c in centroids[1:]:
ax[2].plot(c[0], c[1], 'ro')
plt.tight_layout()
plt.show()
Anzahl Komponenten: 2 Grösse der Komponenten: [15749 635]
Dieser Plot zeigt, dass mit der gewählten Funktion auf Masken gut die Erdrutsche erkannt werden. Ich erhalte weiter die Anzahl die Anzahl der gefundenen Komponenten und die Pixelgrösse. Da der Hintergrund auch als Komponente gezählt wird, muss die Anzahl um 1 reduziert werden und die Grösse der ersten Komponente kann ignoriert werden.
Nun zähle ich die Anzahl Komponenten und stelle sie ins Verhältnis.
n_komponenten = 0
size_komponenten = 0
n_masks = 0
for images, masks in eda_train_loader:
for maske in masks:
mask = maske.numpy().squeeze(0).astype(np.uint8)
num_labels, _, stats, _ = cv2.connectedComponentsWithStats(mask)
n_komponenten += (num_labels - 1)
size_komponenten += np.sum(stats[1:, cv2.CC_STAT_AREA])
n_masks += len(masks)
mean_components = n_komponenten / n_masks
mean_size = size_komponenten / n_komponenten
print("Durchschnittliche Anzahl von Komponenten pro Bild:", round(mean_components, 2))
print("Durchschnittliche Grösse der Komponenten in Pixel:", round(mean_size, 2))
Durchschnittliche Anzahl von Komponenten pro Bild: 6.77 Durchschnittliche Grösse der Komponenten in Pixel: 108.83
Über alle Trainingbilder kommen durchschnittlich 6.8 Komponenten (resp. Erdrutsch) vor und sie haben eine gemittelte Grösse von 109 Pixel.
Die Grösse ist im Verhältnis zum gesamten Bilder (16'384 Pixel) sehr klein. Dies bestätigt die visuelle Erkenntnis.
print("Anzahl Pixel pro Maske:", mask.shape[0] * mask.shape[1])
Anzahl Pixel pro Maske: 16384
Ich untersuche nun die Verteilung der Grösse der Erdrutsche.
# Dieser Code wurde zusammen mit ChatGPT erstellt.
component_sizes = []
for _, masks in eda_train_loader:
for mask in masks:
mask_np = mask.squeeze(0).numpy().astype(np.uint8)
_, _, stats, _ = cv2.connectedComponentsWithStats(mask_np, connectivity=8)
for i, stat in enumerate(stats):
if i != 0: # Hintergrund ignorieren
component_sizes.append(stat[cv2.CC_STAT_AREA])
plt.hist(component_sizes, bins=100, color='blue', edgecolor='black')
plt.title('Verteilung der Objektgrößen')
plt.xlabel('Größe (in Pixel)')
plt.ylabel('Anzahl der Objekte')
plt.show()
Dieses Histogramm zeigt, dass die allermeisten Komponenten sehr klein sind. Es gibt kaum Ausreisser mit einer grösse über 300 Pixel. Dies bestätigt auch die zuvor gemachte Untersuchung der Verhältnisse zwischen Hintergrund und Erdrutsche.
Verteilung der Farben der Komponenten¶
Aufgrund der visuellen Inspektion vermute ich, dass die Erdrutsche andere Farbmuster aufweisen.
# Dieser Code wurde zusammen mit ChatGPT erstellt.
histogram_red = np.zeros(256)
histogram_green = np.zeros(256)
histogram_blue = np.zeros(256)
component_count = 0
for images, masks in eda_train_loader:
images = images.cpu().numpy()
for idx, mask in enumerate(masks):
mask_np = mask.squeeze(0).numpy().astype(np.uint8)
# Erhalte nur die Pixel, die den Wert 1 in der Maske haben
component_mask = (mask_np == 1)
# Wenn es Pixel in der Komponentenmaske gibt, führe die Analyse durch
if np.any(component_mask):
component_count += 1
red_values = images[idx, 0][component_mask].flatten()
green_values = images[idx, 1][component_mask].flatten()
blue_values = images[idx, 2][component_mask].flatten()
histogram_red += np.histogram(red_values, bins=256, range=(0, 1))[0]
histogram_green += np.histogram(green_values, bins=256, range=(0, 1))[0]
histogram_blue += np.histogram(blue_values, bins=256, range=(0, 1))[0]
histogram_red /= component_count
histogram_green /= component_count
histogram_blue /= component_count
plt.figure(figsize=(10, 5))
plt.title("Durchschnittliches Histogramm über alle markierten Pixel im Bild")
plt.xlabel("Pixelintensität")
plt.ylabel("Durchschnittliche Anzahl")
plt.plot(histogram_red, color='red', label='Rot')
plt.plot(histogram_green, color='green', label='Grün')
plt.plot(histogram_blue, color='blue', label='Blau')
plt.legend()
plt.show()
Das Histogramm der Trainingsbilder bestätigt, dass die Farben der Erdrutsche anders sind. Insbesondere die Farbe Rot weist einen höheren Mittelwert und Streuung auf. Auch die Farben Blau und Grün weisen einen höheren Mittelwert auf. Die Erdrutsche sind also heller und weisen einen höheren rot-Stich aus, was in der visuellen Inspektion erkennbar war.
Untersuchung der Bildschärfe¶
Folgend untersuche ich die Unschärfe der Erdrutsche und vergleiche sie mit der Unschärfe der gesamten Bilder. Ich verwende dafür die variance of the Laplacian Methode.
# Dieser Code wurde zusammen mit ChatGPT erstellt.
def estimate_blur(image, mask):
masked_image = cv2.bitwise_and(image, image, mask=mask)
gray = cv2.cvtColor(masked_image, cv2.COLOR_BGR2GRAY)
fm = cv2.Laplacian(gray, cv2.CV_64F).var()
return fm
blur_scores_masked = []
for images, masks in eda_train_loader:
for idx, image in enumerate(images):
img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
mask = masks[idx].squeeze(0).numpy().astype(np.uint8) * 255 # Maske auf den Wertebereich [0, 255] skalieren
blur_score = estimate_blur(img, mask)
blur_scores_masked.append(blur_score)
average_blur = np.mean(blur_scores_masked)
max_blur = np.max(blur_scores_masked)
min_blur = np.min(blur_scores_masked)
print("Durchschnittliche Unschärfe in der Maske:", round(average_blur, 2))
print("Maximale Unschärfe in der Maske:", round(max_blur, 2))
print("Minimale Unschärfe in der Maske:", round(min_blur, 2))
Durchschnittliche Unschärfe in der Maske: 464.4 Maximale Unschärfe in der Maske: 3034.71 Minimale Unschärfe in der Maske: 0.0
def estimate_blur(image):
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
fm = cv2.Laplacian(gray, cv2.CV_64F).var()
return fm
blur_scores_whole = []
for images, _ in eda_train_loader:
for image in images:
img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
blur_score = estimate_blur(img)
blur_scores_whole.append(blur_score)
average_blur = np.mean(blur_scores_whole)
max_blur = np.max(blur_scores_whole)
min_blur = np.min(blur_scores_whole)
print("Durchschnittliche Unschärfe im gesamten Bild:", round(average_blur, 2))
print("Maximale Unschärfe im gesamten Bild:", round(max_blur, 2))
print("Minimale Unschärfe im gesamten Bild:", round(min_blur, 2))
Durchschnittliche Unschärfe im gesamten Bild: 159.17 Maximale Unschärfe im gesamten Bild: 573.14 Minimale Unschärfe im gesamten Bild: 11.67
plt.figure(figsize=(12, 6))
plt.subplot(1, 2, 1)
weights_masked = np.ones_like(blur_scores_masked) / len(blur_scores_masked)
plt.hist(blur_scores_masked, bins=50, range=(0, 3000), weights=weights_masked, color='blue', label='Unschärfe in der Maske')
plt.xlabel('Unschärfe-Score (Variance of Laplacian)')
plt.ylabel('Relative Häufigkeit')
plt.title('Histogramm der Unschärfe in der Maske')
plt.legend()
plt.grid(True)
plt.subplot(1, 2, 2)
weights_whole = np.ones_like(blur_scores_whole) / len(blur_scores_whole)
plt.hist(blur_scores_whole, bins=50, range=(0, 3000), weights=weights_whole, color='red', label='Unschärfe im gesamten Bild')
plt.xlabel('Unschärfe-Score (Variance of Laplacian)')
plt.ylabel('Relative Häufigkeit')
plt.title('Histogramm der Unschärfe im gesamten Bild')
plt.legend()
plt.grid(True)
plt.tight_layout()
plt.show()
Diese Histogramm vergleichen die relative Häufigkeit der Unschärfe-Scores pro Pixel. Im linken Histogramm wurde für die Berechnung des Scores nur die Pixel der Erdrutsche verwendet, während rechts das gesamte Bild angeschaut wurde. Es wird ersichtlich, dass die Erdrutsche deutlich höhere Scores aufweisen können, verglichen mit den gesamten Bildern. Ein höherer Score bedeutet, dass Schärfe besser ist.
Ich vermute, dass die Schärfe bei Erdrutschen höher ist, als bei den Wälder, weil die Baumkronen meistens das gleiche Muster aufweisen und die Wälder deshalb eher als Fläche dargestellt werden. Bei Erdrutschen sind mehr Details zu erkennen, was vermutlich zu den höheren Scores führt.
Rand-Intensitätsanalyse¶
Ich untersuche zuletzt auch die Ränder der Komponenten/Erdrutsche. Ich möchte dabei feststellen, ob ein Unterschied zum restlichen Bild festgestellt werden kann. Da die Ränder sehr dünn sind, bin ich vorerst noch skeptisch.
Ich lege keinen starken Wert auf diese Untersuchung, den der Code wurde mit viel Try/Error mit ChatGPT erstellt. Auch wenn das Resultat plausibel erscheint, besteht ein Risiko, weil ich nicht die einzelne Komponenten testen konnte. Trotzdem finde ich es eine interessante Untersuchung und führe sie durch.
# Dieser Code wurde zusammen mit ChatGPT erstellt.
kernel = np.ones((3,3),np.uint8)
def get_inner_outer_edge_pixels(mask):
dilation = cv2.dilate(mask, kernel, iterations=1) # Erweitert die Ränder der Maske nach außen
erosion = cv2.erode(mask, kernel, iterations=1) # Verengt die Ränder der Maske nach innen
inner_edge = mask - erosion # Pixel knapp innerhalb der Ränder isolieren
outer_edge = dilation - mask # Pixel knapp außerhalb der Ränder isolieren
return inner_edge, outer_edge
def calculate_edge_intensity(image, mask):
# Identifizieren Sie die Komponenten in der Maske
num_labels, labels, stats, centroids = cv2.connectedComponentsWithStats(mask)
# Konvertieren Sie das Bild in Graustufen für die Intensitätsanalyse
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
edge_intensities = []
component_intensities = []
for i in range(1, num_labels):
# Erzeugen Sie eine Maske nur für die aktuelle Komponente
component_mask = (labels == i).astype(np.uint8) * 255
component_intensity = np.mean(gray[component_mask == 255])
component_intensities.append(component_intensity)
contours, _ = cv2.findContours(component_mask, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
if not contours:
continue
for contour in contours:
for point in contour:
x, y = point[0]
edge_intensities.append(gray[y, x])
if not edge_intensities:
return None, None, None
average_intensity = np.mean(edge_intensities)
contrast = np.std(edge_intensities)
average_component_intensity = np.mean(component_intensities)
return average_intensity, contrast, average_component_intensity
intensity_values = []
contrast_values = []
component_intensities = []
differences = []
for images, masks in eda_train_loader:
for image, mask_tensor in zip(images, masks):
img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
mask = mask_tensor.numpy().squeeze(0).astype(np.uint8)
average_intensity, contrast, comp_intensity = calculate_edge_intensity(img, mask)
if average_intensity is not None and contrast is not None and comp_intensity is not None:
intensity_values.append(average_intensity)
contrast_values.append(contrast)
component_intensities.append(comp_intensity)
inner_edge, outer_edge = get_inner_outer_edge_pixels(mask)
inner_edge_values = img[inner_edge == 1]
outer_edge_values = img[outer_edge == 1]
if inner_edge_values.size > 0 and outer_edge_values.size > 0:
diff = np.mean(inner_edge_values) - np.mean(outer_edge_values)
differences.append(diff)
average_intensity = np.mean(intensity_values) if intensity_values else None
average_contrast = np.mean(contrast_values) if contrast_values else None
average_comp_intensity = np.mean(component_intensities) if component_intensities else None
average_diff = np.mean(differences) if differences else None
print("Durchschnittliche Rand-Intensität:", round(average_intensity, 2) if average_intensity is not None else "N/A")
print("Durchschnittliche Intensität der Komponenten:", round(average_comp_intensity, 2) if average_comp_intensity is not None else "N/A")
print("Durchschnittliche Differenz der Intensität zwischen inneren und äußeren Rändern:", round(average_diff, 2) if average_diff is not None else "N/A")
print("Durchschnittlicher Kontrast an den Rändern:", round(average_contrast, 2) if average_contrast is not None else "N/A")
Durchschnittliche Rand-Intensität: 85.59 Durchschnittliche Intensität der Komponenten: 91.57 Durchschnittliche Differenz der Intensität zwischen inneren und äußeren Rändern: 21.65 Durchschnittlicher Kontrast an den Rändern: 20.1
Die Graustufen Intensität an den Rändern beträgt 85.6 und die Intensität der gesamten Komponenten 91.6. Die Differenz der Intensität von knapp innerhalb zu knapp ausserhalb der Ränder beträgt 21.6.
Ein Vergleich und Einschätzung folgt nach der Berechnung der Intensität des gesamten Bildes.
def calculate_image_intensity_and_contrast(image):
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
average_intensity = np.mean(gray)
contrast = np.std(gray)
return average_intensity, contrast
intensity_values = []
contrast_values = []
for images, _ in eda_train_loader:
for image in images:
img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
average_intensity, contrast = calculate_image_intensity_and_contrast(img)
intensity_values.append(average_intensity)
contrast_values.append(contrast)
average_intensity = np.mean(intensity_values)
average_contrast = np.mean(contrast_values)
print("Durchschnittliche Intensität:", round(average_intensity, 2))
print("Durchschnittlicher Kontrast:", round(average_contrast, 2))
Durchschnittliche Intensität: 54.8 Durchschnittlicher Kontrast: 14.27
Die Komponenten haben eine Intensität von 91.6, verglichen mit lediglich 54.8 über das gesamte Bild. Die Erdrutsche sind also deutlich heller, als die restlichen Teil des Bildes. Das bestätigt bereits getroffene Feststellungen. Da die Intensität an den Rändern der Erdrutsche um 21.6 steigt, deutet das darauf hin, dass die Ränder eine klar erkennbar Kante darstellen. Sollte dieses Resultat stimmen, gehe ich davon aus, dass auch die Modelle gut daran lernen können.
Zusätzlich habe ich den Kontrast vom gesamten Bild und den Komponenten berechnet. Dieser ist bei den Komponenten mit 20.1 merklich höher als beim gesamten Bild mit 14.3.
Zusammenfassung von EDA¶
Die explorative Datenanalyse der Bilder hat interessante Erkenntnisse geliefert. Zum einen hat sich gezeigt, dass die Bilderqualität nicht sehr hoch ist. Auch sind die Erdrutsche relativ klein. Trotzdem unterscheiden sie sich vom Hintergrund in mehreren qualitativen Aspekten, wie Farbtöne, Kontrast, Schärfe und Intensität/Helligkeit. Ich gehe deshalb davon aus, dass trotz negativer Aspekte die Modelle die Erdrutsch lernen und segmentieren können.
Vorbereitung der Codes fürs Training¶
device = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
print(device)
cuda
def do_modeltrain(config, model, device, transform_train):
train_data = SegmentationDataset(root='data', split='train', transform_mode=transform_train)
train_loader = DataLoader(train_data, batch_size=config.batchsize, shuffle=True, num_workers = 10)
test_data = SegmentationDataset(root='data', split='test', transform_mode='to_tensor')
test_loader = DataLoader(test_data, batch_size=config.batchsize, shuffle=False, num_workers = 10)
val_data = SegmentationDataset(root='data', split='validation', transform_mode='to_tensor')
val_loader = DataLoader(val_data, batch_size=config.batchsize, shuffle=False, num_workers = 10)
loss_fn = nn.BCEWithLogitsLoss(pos_weight=torch.tensor([weight_1]).to(device))
optimizer = optim.Adam(model.parameters(), lr=config.learn_rate, weight_decay=config.l2_penalty)
for t in range(config.epochs):
train_loss, train_f1_background, train_f1_landslide= train_binary(train_loader, model, loss_fn, optimizer, device)
test_loss, test_f1_background, test_f1_landslide = test_binary(test_loader, model, loss_fn, device)
# Übermittlung der Daten an W&B
wandb.log({"Train loss": train_loss, "Test loss": test_loss, "Train F1 Background": train_f1_background, "Train F1 Landslides": train_f1_landslide, "Test F1 Background": test_f1_background, "Test F1 Landslides": test_f1_landslide})
print(t, "Train loss:", round(train_loss, 6), "Test loss:", round(test_loss, 6), "Train F1 Background:", round(train_f1_background, 6), "Train F1 Landslides:", round(train_f1_landslide, 6), "Test F1 Background:", round(test_f1_background, 6), "Test F1 Landslides:", round(test_f1_landslide, 6))
val_loss, f1_val_background, f1_val_landslide = validation_binary(val_loader, model, loss_fn, device)
wandb.log({"Val Loss": val_loss, "Val F1 Background": f1_val_background, "Val F1 Landslides": f1_val_landslide})
print("Validation Loss: ", round(val_loss, 6), "Val F1 Background: ", round(f1_val_background, 6), "Val F1 Landslides: ", round(f1_val_landslide, 6))
plot_samples_binary(train_loader, model, device, "Training")
plot_samples_binary(val_loader, model, device, "Validation")
wandb.config["Model Name"] = model.__class__.__name__
count_1 = 0
count_0 = 0
for _, masks in eda_train_loader:
for mask in masks:
count_1 += torch.sum(mask).item()
count_0 += mask.numel() - torch.sum(mask).item()
total_pixels = count_0 + count_1
weight_0 = count_0 / total_pixels
weight_1 = count_1 / total_pixels
print("Gewicht für Klasse 0 (Hintergrund):", weight_0)
print("Gewicht für Klasse 1 (Landslide):", weight_1)
Gewicht für Klasse 0 (Hintergrund): 0.9550122863549187 Gewicht für Klasse 1 (Landslide): 0.04498771364508123
Baseline¶
Wie erwähnt handelt es sich beim Datensatz um eine Challenge Landslide4Sense-2022. Im Github Repo haben sie neben unzähligen Informationen und Anleitungen ein eigenes Baseline-Resultat veröffentlicht. Mit dem Validation Set haben mit U-Net einen F1 Score von 57.82 erzielt. Ich nehme deshalb dieses Resultat als mein Baseline und werde meine eigenen Modelle mit diesem Resultat vergleichen.
Bevor ich meine eigenen Modelle trainiere, habe ich das Model, das der Challenge-Owner zur Erstellung der Baseline verwendet hat, angeschaut:
- Bildergrösse = 128x128: Die originalen Bilder haben bereits diese Grösse und ich belasse diese unverändert.
- Anzahl Klassen = 2: Dies entspricht gemäss EDA auch meiner Anzahl Klassen.
- Batchsize = 32: Ich werde unterschiedliche Batchgrössen untersuchen.
- Learning Rate = 1e-2: Auch hier werde ich unterschiedliche Werte untersuchen. Da ich bei Versuchen festgestellt habe, dass 1e-2 auch ein guter Wert ist, werde ich mit diesem starten.
- Number Training steps = 5000: Ich verstehe nicht ganz, ob damit die Trainingsepochen gemeint ist. Aufgrund Resourcenbeschränkungen werde ich mit deutlich weniger Epochen, im tieferen zweistelligen Bereich, arbeiten.
- Weight Decay = 5e-4: Ich werde vorläufig keinen Penalty verwenden, ihn aber bei der Regularisierung untersuchen.
- Optimizer = Adam: Ich werde den selben Optimizer verwenden.
- Loss = CrossEntropyLoss: Auch hier verwende ich die selbe Metrik.
Auswahl der Modelle¶
Ich habe mich entschieden, die Modelle FCN (Pytorch "fcn_resnet50") und Deeplabv3 (Pytorch deeplabv3_resnet50) zu verwenden. Es war mir dabei wichtig, Modelle möglichst gut vergleichen zu können. Ich habe mich deshalb für diese Modelle entschieden, weil sie von Pytorch implementiert wurden und den selben Output haben. Zu Beginn habe ich anstelle vom FCN mit U-Net gearbeitet, doch wurde dieses "extern" und für MRI Bilder implementiert. Neben dem unterschiedlichen Output und damit notwendigen doppelten Code, bereitete das U-Net Mühe bei Anpassungen, wie den Wechsel von Crossentropy Loss zur binären Crossentropy Loss. Obwohl ich nach den ersten Versuchen das Gefühl hatte, dass U-Net die kleinen Komponenten besser als Deeplabv3 lernen kann, habe ich mich schlussendlich gegen U-Net und für FCN entschieden.
Pretrained Weights: Ich werde die pretrained Weights von Pytorch verwenden. Für beide Modelle sind diese für den Datensatz VOC vorhanden. In Vergleichen beim Overfitting habe ich bei beiden Modellen festgestellt, dass mit diesen pretrained Weights die F1 Scores zu Beginn deutlich schneller steigen. Erst nach Abflachung der Steigung holt der Test ohne pretrained Weights langsam auf. Auch wenn ich länger als diesen optimalen Anzahl Epochen trainiere, behalte ich diese Weights bei, für den Fall, dass auch mal mit weniger Epochen trainiert werden soll. Weiter habe ich festgestellt, dass der Test Loss deutlich stabiler verläuft, wenn vortrainierte Gewichte verwendet werden.
Overfit¶
Ich werde die Modelle U-Net und Deeplabv3 untersuchen. Beim U-Net bin ich insbesondere gespannt, ob und wie stark ich das Baseline der Challenge-Owner übertreffen kann.
Overfit FCN¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Overfit FCN",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [80]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_overfit_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "to_tensor")
torch.save(model.state_dict(), "weights/model_overfit_fcn.pth")
wandb.agent(sweep_overfit_fcn, function=main)
wandb.finish()
Create sweep with ID: 8z42navp Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/8z42navp
wandb: Agent Starting Run: 0p1b2cjl with config: wandb: batchsize: 64 wandb: epochs: 80 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_181452-0p1b2cjl
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/8z42navp
0 Train loss: 0.228274 Test loss: 0.052368 Train F1 Background: 0.953641 Train F1 Landslides: 0.037917 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 1 Train loss: 0.041177 Test loss: 0.02532 Train F1 Background: 0.976986 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.022806 Test loss: 0.018913 Train F1 Background: 0.976988 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 3 Train loss: 0.017409 Test loss: 0.016308 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976332 Test F1 Landslides: 0.000756 4 Train loss: 0.01476 Test loss: 0.013256 Train F1 Background: 0.97699 Train F1 Landslides: 0.000233 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 5 Train loss: 0.013093 Test loss: 0.012031 Train F1 Background: 0.977045 Train F1 Landslides: 0.005096 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 6 Train loss: 0.012108 Test loss: 0.011465 Train F1 Background: 0.977139 Train F1 Landslides: 0.013407 Test F1 Background: 0.976344 Test F1 Landslides: 0.001775 7 Train loss: 0.01125 Test loss: 0.011196 Train F1 Background: 0.977282 Train F1 Landslides: 0.026048 Test F1 Background: 0.976788 Test F1 Landslides: 0.042418 8 Train loss: 0.010591 Test loss: 0.011022 Train F1 Background: 0.977555 Train F1 Landslides: 0.049926 Test F1 Background: 0.977256 Test F1 Landslides: 0.086821 9 Train loss: 0.010393 Test loss: 0.011767 Train F1 Background: 0.977623 Train F1 Landslides: 0.055455 Test F1 Background: 0.977346 Test F1 Landslides: 0.102122 10 Train loss: 0.009703 Test loss: 0.009833 Train F1 Background: 0.978332 Train F1 Landslides: 0.114259 Test F1 Background: 0.976436 Test F1 Landslides: 0.009752 11 Train loss: 0.009405 Test loss: 0.00968 Train F1 Background: 0.97872 Train F1 Landslides: 0.145143 Test F1 Background: 0.97749 Test F1 Landslides: 0.110607 12 Train loss: 0.009034 Test loss: 0.009678 Train F1 Background: 0.979038 Train F1 Landslides: 0.16859 Test F1 Background: 0.977808 Test F1 Landslides: 0.135797 13 Train loss: 0.008618 Test loss: 0.009141 Train F1 Background: 0.979848 Train F1 Landslides: 0.226961 Test F1 Background: 0.977557 Test F1 Landslides: 0.107831 14 Train loss: 0.008477 Test loss: 0.010283 Train F1 Background: 0.980475 Train F1 Landslides: 0.27045 Test F1 Background: 0.979782 Test F1 Landslides: 0.295502 15 Train loss: 0.008184 Test loss: 0.009049 Train F1 Background: 0.980621 Train F1 Landslides: 0.279669 Test F1 Background: 0.977283 Test F1 Landslides: 0.082627 16 Train loss: 0.007955 Test loss: 0.009619 Train F1 Background: 0.980979 Train F1 Landslides: 0.302512 Test F1 Background: 0.978431 Test F1 Landslides: 0.190782 17 Train loss: 0.007762 Test loss: 0.008999 Train F1 Background: 0.981564 Train F1 Landslides: 0.339142 Test F1 Background: 0.977988 Test F1 Landslides: 0.145047 18 Train loss: 0.007602 Test loss: 0.009344 Train F1 Background: 0.981492 Train F1 Landslides: 0.334406 Test F1 Background: 0.979011 Test F1 Landslides: 0.231196 19 Train loss: 0.00758 Test loss: 0.008828 Train F1 Background: 0.981781 Train F1 Landslides: 0.352247 Test F1 Background: 0.978799 Test F1 Landslides: 0.207698 20 Train loss: 0.007413 Test loss: 0.008803 Train F1 Background: 0.982027 Train F1 Landslides: 0.366975 Test F1 Background: 0.978129 Test F1 Landslides: 0.154556 21 Train loss: 0.0071 Test loss: 0.008861 Train F1 Background: 0.982404 Train F1 Landslides: 0.38812 Test F1 Background: 0.978296 Test F1 Landslides: 0.169714 22 Train loss: 0.006948 Test loss: 0.009976 Train F1 Background: 0.982654 Train F1 Landslides: 0.402115 Test F1 Background: 0.979979 Test F1 Landslides: 0.306869 23 Train loss: 0.006995 Test loss: 0.009172 Train F1 Background: 0.982708 Train F1 Landslides: 0.405388 Test F1 Background: 0.979197 Test F1 Landslides: 0.240739 24 Train loss: 0.006968 Test loss: 0.009584 Train F1 Background: 0.982731 Train F1 Landslides: 0.407496 Test F1 Background: 0.979642 Test F1 Landslides: 0.285039 25 Train loss: 0.006854 Test loss: 0.009068 Train F1 Background: 0.982711 Train F1 Landslides: 0.405927 Test F1 Background: 0.978804 Test F1 Landslides: 0.213742 26 Train loss: 0.006683 Test loss: 0.008942 Train F1 Background: 0.982992 Train F1 Landslides: 0.421083 Test F1 Background: 0.978943 Test F1 Landslides: 0.220298 27 Train loss: 0.006454 Test loss: 0.009052 Train F1 Background: 0.983422 Train F1 Landslides: 0.444404 Test F1 Background: 0.977704 Test F1 Landslides: 0.117342 28 Train loss: 0.006484 Test loss: 0.008804 Train F1 Background: 0.983334 Train F1 Landslides: 0.439531 Test F1 Background: 0.978047 Test F1 Landslides: 0.149116 29 Train loss: 0.006415 Test loss: 0.009329 Train F1 Background: 0.983354 Train F1 Landslides: 0.440537 Test F1 Background: 0.979821 Test F1 Landslides: 0.289681 30 Train loss: 0.006474 Test loss: 0.00892 Train F1 Background: 0.98339 Train F1 Landslides: 0.442864 Test F1 Background: 0.978271 Test F1 Landslides: 0.167517 31 Train loss: 0.006223 Test loss: 0.00896 Train F1 Background: 0.983719 Train F1 Landslides: 0.459864 Test F1 Background: 0.979022 Test F1 Landslides: 0.229913 32 Train loss: 0.006092 Test loss: 0.008989 Train F1 Background: 0.983937 Train F1 Landslides: 0.470833 Test F1 Background: 0.979482 Test F1 Landslides: 0.260511 33 Train loss: 0.005898 Test loss: 0.008893 Train F1 Background: 0.98424 Train F1 Landslides: 0.485985 Test F1 Background: 0.978981 Test F1 Landslides: 0.223163 34 Train loss: 0.00583 Test loss: 0.009326 Train F1 Background: 0.984307 Train F1 Landslides: 0.489282 Test F1 Background: 0.97973 Test F1 Landslides: 0.281866 35 Train loss: 0.005735 Test loss: 0.009168 Train F1 Background: 0.984563 Train F1 Landslides: 0.502028 Test F1 Background: 0.97879 Test F1 Landslides: 0.208964 36 Train loss: 0.005614 Test loss: 0.009168 Train F1 Background: 0.984561 Train F1 Landslides: 0.501751 Test F1 Background: 0.97941 Test F1 Landslides: 0.25744 37 Train loss: 0.005546 Test loss: 0.009106 Train F1 Background: 0.984755 Train F1 Landslides: 0.511318 Test F1 Background: 0.979294 Test F1 Landslides: 0.247525 38 Train loss: 0.005552 Test loss: 0.009449 Train F1 Background: 0.984794 Train F1 Landslides: 0.513131 Test F1 Background: 0.979757 Test F1 Landslides: 0.28414 39 Train loss: 0.005601 Test loss: 0.009127 Train F1 Background: 0.984816 Train F1 Landslides: 0.514588 Test F1 Background: 0.978836 Test F1 Landslides: 0.209615 40 Train loss: 0.005566 Test loss: 0.009155 Train F1 Background: 0.984738 Train F1 Landslides: 0.51072 Test F1 Background: 0.978998 Test F1 Landslides: 0.224724 41 Train loss: 0.005478 Test loss: 0.009366 Train F1 Background: 0.984886 Train F1 Landslides: 0.517758 Test F1 Background: 0.979488 Test F1 Landslides: 0.264549 42 Train loss: 0.005429 Test loss: 0.00932 Train F1 Background: 0.984997 Train F1 Landslides: 0.522992 Test F1 Background: 0.979542 Test F1 Landslides: 0.268767 43 Train loss: 0.005387 Test loss: 0.009443 Train F1 Background: 0.985046 Train F1 Landslides: 0.525417 Test F1 Background: 0.978489 Test F1 Landslides: 0.181717 44 Train loss: 0.005483 Test loss: 0.010704 Train F1 Background: 0.984983 Train F1 Landslides: 0.522516 Test F1 Background: 0.980432 Test F1 Landslides: 0.339378 45 Train loss: 0.005545 Test loss: 0.00973 Train F1 Background: 0.985 Train F1 Landslides: 0.523692 Test F1 Background: 0.97873 Test F1 Landslides: 0.209079 46 Train loss: 0.005494 Test loss: 0.009427 Train F1 Background: 0.984894 Train F1 Landslides: 0.518424 Test F1 Background: 0.979009 Test F1 Landslides: 0.228618 47 Train loss: 0.005346 Test loss: 0.009169 Train F1 Background: 0.985059 Train F1 Landslides: 0.526124 Test F1 Background: 0.979264 Test F1 Landslides: 0.243896 48 Train loss: 0.005249 Test loss: 0.009336 Train F1 Background: 0.985357 Train F1 Landslides: 0.540015 Test F1 Background: 0.979394 Test F1 Landslides: 0.256405 49 Train loss: 0.005183 Test loss: 0.009632 Train F1 Background: 0.985431 Train F1 Landslides: 0.543384 Test F1 Background: 0.979846 Test F1 Landslides: 0.291691 50 Train loss: 0.005147 Test loss: 0.009216 Train F1 Background: 0.985494 Train F1 Landslides: 0.546261 Test F1 Background: 0.979012 Test F1 Landslides: 0.226232 51 Train loss: 0.005142 Test loss: 0.009492 Train F1 Background: 0.985507 Train F1 Landslides: 0.546891 Test F1 Background: 0.979203 Test F1 Landslides: 0.241746 52 Train loss: 0.005335 Test loss: 0.009528 Train F1 Background: 0.985267 Train F1 Landslides: 0.536075 Test F1 Background: 0.978213 Test F1 Landslides: 0.162519 53 Train loss: 0.005261 Test loss: 0.010595 Train F1 Background: 0.985493 Train F1 Landslides: 0.546584 Test F1 Background: 0.980114 Test F1 Landslides: 0.318902 54 Train loss: 0.00521 Test loss: 0.009611 Train F1 Background: 0.985432 Train F1 Landslides: 0.543608 Test F1 Background: 0.978939 Test F1 Landslides: 0.222864 55 Train loss: 0.0052 Test loss: 0.009689 Train F1 Background: 0.985407 Train F1 Landslides: 0.542384 Test F1 Background: 0.979834 Test F1 Landslides: 0.289963 56 Train loss: 0.005101 Test loss: 0.009904 Train F1 Background: 0.985522 Train F1 Landslides: 0.547663 Test F1 Background: 0.980001 Test F1 Landslides: 0.305343 57 Train loss: 0.005036 Test loss: 0.009305 Train F1 Background: 0.985805 Train F1 Landslides: 0.560575 Test F1 Background: 0.979239 Test F1 Landslides: 0.247913 58 Train loss: 0.004977 Test loss: 0.009499 Train F1 Background: 0.985806 Train F1 Landslides: 0.560588 Test F1 Background: 0.979148 Test F1 Landslides: 0.237503 59 Train loss: 0.004996 Test loss: 0.009361 Train F1 Background: 0.985778 Train F1 Landslides: 0.559172 Test F1 Background: 0.979191 Test F1 Landslides: 0.239829 60 Train loss: 0.004949 Test loss: 0.010017 Train F1 Background: 0.985904 Train F1 Landslides: 0.564915 Test F1 Background: 0.979915 Test F1 Landslides: 0.300628 61 Train loss: 0.004913 Test loss: 0.009702 Train F1 Background: 0.986032 Train F1 Landslides: 0.570616 Test F1 Background: 0.979384 Test F1 Landslides: 0.259623 62 Train loss: 0.004905 Test loss: 0.010003 Train F1 Background: 0.986049 Train F1 Landslides: 0.57135 Test F1 Background: 0.980105 Test F1 Landslides: 0.312296 63 Train loss: 0.004873 Test loss: 0.009648 Train F1 Background: 0.986113 Train F1 Landslides: 0.574238 Test F1 Background: 0.979307 Test F1 Landslides: 0.252913 64 Train loss: 0.004897 Test loss: 0.009916 Train F1 Background: 0.986069 Train F1 Landslides: 0.572283 Test F1 Background: 0.979521 Test F1 Landslides: 0.27 65 Train loss: 0.004898 Test loss: 0.01023 Train F1 Background: 0.986058 Train F1 Landslides: 0.571754 Test F1 Background: 0.980392 Test F1 Landslides: 0.334312 66 Train loss: 0.004869 Test loss: 0.010339 Train F1 Background: 0.986167 Train F1 Landslides: 0.576713 Test F1 Background: 0.980213 Test F1 Landslides: 0.322452 67 Train loss: 0.004856 Test loss: 0.009861 Train F1 Background: 0.986141 Train F1 Landslides: 0.575509 Test F1 Background: 0.979489 Test F1 Landslides: 0.26797 68 Train loss: 0.004867 Test loss: 0.010279 Train F1 Background: 0.986144 Train F1 Landslides: 0.575669 Test F1 Background: 0.980198 Test F1 Landslides: 0.318924 69 Train loss: 0.00488 Test loss: 0.009506 Train F1 Background: 0.986207 Train F1 Landslides: 0.578476 Test F1 Background: 0.979009 Test F1 Landslides: 0.229461 70 Train loss: 0.004834 Test loss: 0.011092 Train F1 Background: 0.986208 Train F1 Landslides: 0.578434 Test F1 Background: 0.980479 Test F1 Landslides: 0.347053 71 Train loss: 0.004827 Test loss: 0.010023 Train F1 Background: 0.986246 Train F1 Landslides: 0.580103 Test F1 Background: 0.980073 Test F1 Landslides: 0.309803 72 Train loss: 0.004804 Test loss: 0.010205 Train F1 Background: 0.986307 Train F1 Landslides: 0.582856 Test F1 Background: 0.979717 Test F1 Landslides: 0.28503 73 Train loss: 0.004821 Test loss: 0.011792 Train F1 Background: 0.986188 Train F1 Landslides: 0.57752 Test F1 Background: 0.980797 Test F1 Landslides: 0.373882 74 Train loss: 0.004842 Test loss: 0.011305 Train F1 Background: 0.98627 Train F1 Landslides: 0.581276 Test F1 Background: 0.980864 Test F1 Landslides: 0.371369 75 Train loss: 0.004811 Test loss: 0.010074 Train F1 Background: 0.98632 Train F1 Landslides: 0.583432 Test F1 Background: 0.979835 Test F1 Landslides: 0.291751 76 Train loss: 0.004774 Test loss: 0.010683 Train F1 Background: 0.986307 Train F1 Landslides: 0.582788 Test F1 Background: 0.980116 Test F1 Landslides: 0.318503 77 Train loss: 0.004832 Test loss: 0.010752 Train F1 Background: 0.986233 Train F1 Landslides: 0.579631 Test F1 Background: 0.980259 Test F1 Landslides: 0.32823 78 Train loss: 0.004813 Test loss: 0.010671 Train F1 Background: 0.986332 Train F1 Landslides: 0.584101 Test F1 Background: 0.979884 Test F1 Landslides: 0.301517 79 Train loss: 0.004874 Test loss: 0.011048 Train F1 Background: 0.986195 Train F1 Landslides: 0.577967 Test F1 Background: 0.980668 Test F1 Landslides: 0.356805 Validation Loss: 0.010465 Val F1 Background: 0.983771 Val F1 Landslides: 0.386747
Run history:
| Test F1 Background | ▁▁▁▁▂▁▃▆▄▅▄▇▆▅▄▄▆▆▆▆▅▆▇▅▆▅▄▅▇▅▇▇▆▇▇▇▆█▇█ |
| Test F1 Landslides | ▁▁▁▁▃▁▄▇▅▅▄▇▆▅▄▄▆▆▆▆▅▆▇▅▆▅▄▅▇▅▇▇▆▇▇█▆█▇█ |
| Test loss | █▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▆▆▆▆▆▆▇▇▇▇▇▇▇▇▇▇███████████████████████ |
| Train F1 Landslides | ▁▁▁▁▂▂▃▄▅▅▅▆▆▆▆▆▇▇▇▇▇▇▇▇▇█▇█████████████ |
| Train loss | █▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.98067 |
| Test F1 Landslides | 0.3568 |
| Test loss | 0.01105 |
| Train F1 Background | 0.98619 |
| Train F1 Landslides | 0.57797 |
| Train loss | 0.00487 |
| Val F1 Background | 0.98377 |
| Val F1 Landslides | 0.38675 |
| Val Loss | 0.01046 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_181452-0p1b2cjl/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Overfit Deeplabv3¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Overfit Deeplabv3",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [60]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_overfit = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "to_tensor")
torch.save(model.state_dict(), "weights/model_overfit_deeplab2.pth")
wandb.agent(sweep_overfit, function=main)
wandb.finish()
Create sweep with ID: crgqnbf6 Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/crgqnbf6
wandb: Agent Starting Run: wadgzpch with config: wandb: batchsize: 64 wandb: epochs: 60 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_183202-wadgzpch
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/crgqnbf6
0 Train loss: 0.335164 Test loss: 0.766798 Train F1 Background: 0.935582 Train F1 Landslides: 0.075614 Test F1 Background: 0.952308 Test F1 Landslides: 0.0461 1 Train loss: 0.096388 Test loss: 0.062911 Train F1 Background: 0.976958 Train F1 Landslides: 0.000131 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.048825 Test loss: 0.037525 Train F1 Background: 0.976981 Train F1 Landslides: 5.5e-05 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 3 Train loss: 0.03222 Test loss: 0.027332 Train F1 Background: 0.976989 Train F1 Landslides: 0.000188 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 4 Train loss: 0.024771 Test loss: 0.021697 Train F1 Background: 0.976991 Train F1 Landslides: 0.000229 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 5 Train loss: 0.020084 Test loss: 0.017272 Train F1 Background: 0.977067 Train F1 Landslides: 0.00781 Test F1 Background: 0.976433 Test F1 Landslides: 0.010912 6 Train loss: 0.017185 Test loss: 0.015659 Train F1 Background: 0.9771 Train F1 Landslides: 0.010462 Test F1 Background: 0.976296 Test F1 Landslides: 0.004707 7 Train loss: 0.015435 Test loss: 0.014171 Train F1 Background: 0.977193 Train F1 Landslides: 0.018638 Test F1 Background: 0.976635 Test F1 Landslides: 0.033335 8 Train loss: 0.014107 Test loss: 0.013622 Train F1 Background: 0.977379 Train F1 Landslides: 0.035462 Test F1 Background: 0.977223 Test F1 Landslides: 0.082234 9 Train loss: 0.013156 Test loss: 0.013616 Train F1 Background: 0.977418 Train F1 Landslides: 0.038378 Test F1 Background: 0.978178 Test F1 Landslides: 0.174659 10 Train loss: 0.012294 Test loss: 0.011582 Train F1 Background: 0.977723 Train F1 Landslides: 0.064808 Test F1 Background: 0.976422 Test F1 Landslides: 0.008752 11 Train loss: 0.011778 Test loss: 0.011165 Train F1 Background: 0.977937 Train F1 Landslides: 0.082283 Test F1 Background: 0.9772 Test F1 Landslides: 0.07977 12 Train loss: 0.011165 Test loss: 0.010661 Train F1 Background: 0.978221 Train F1 Landslides: 0.105691 Test F1 Background: 0.976715 Test F1 Landslides: 0.034941 13 Train loss: 0.010739 Test loss: 0.010269 Train F1 Background: 0.978519 Train F1 Landslides: 0.129304 Test F1 Background: 0.977143 Test F1 Landslides: 0.07426 14 Train loss: 0.010253 Test loss: 0.010172 Train F1 Background: 0.978702 Train F1 Landslides: 0.143171 Test F1 Background: 0.977185 Test F1 Landslides: 0.07936 15 Train loss: 0.01021 Test loss: 0.010122 Train F1 Background: 0.97874 Train F1 Landslides: 0.146847 Test F1 Background: 0.97695 Test F1 Landslides: 0.061553 16 Train loss: 0.009827 Test loss: 0.009546 Train F1 Background: 0.978917 Train F1 Landslides: 0.16001 Test F1 Background: 0.9771 Test F1 Landslides: 0.068968 17 Train loss: 0.009662 Test loss: 0.009936 Train F1 Background: 0.979142 Train F1 Landslides: 0.176849 Test F1 Background: 0.976512 Test F1 Landslides: 0.016761 18 Train loss: 0.00955 Test loss: 0.009591 Train F1 Background: 0.979181 Train F1 Landslides: 0.180285 Test F1 Background: 0.976853 Test F1 Landslides: 0.047757 19 Train loss: 0.009115 Test loss: 0.009244 Train F1 Background: 0.979585 Train F1 Landslides: 0.208908 Test F1 Background: 0.977751 Test F1 Landslides: 0.126303 20 Train loss: 0.008949 Test loss: 0.009241 Train F1 Background: 0.97993 Train F1 Landslides: 0.233161 Test F1 Background: 0.977839 Test F1 Landslides: 0.134605 21 Train loss: 0.008621 Test loss: 0.009099 Train F1 Background: 0.980249 Train F1 Landslides: 0.254706 Test F1 Background: 0.977628 Test F1 Landslides: 0.113287 22 Train loss: 0.008378 Test loss: 0.0098 Train F1 Background: 0.980635 Train F1 Landslides: 0.280363 Test F1 Background: 0.979455 Test F1 Landslides: 0.268774 23 Train loss: 0.0083 Test loss: 0.009121 Train F1 Background: 0.980829 Train F1 Landslides: 0.293006 Test F1 Background: 0.977869 Test F1 Landslides: 0.133518 24 Train loss: 0.008656 Test loss: 0.009108 Train F1 Background: 0.980268 Train F1 Landslides: 0.257234 Test F1 Background: 0.977792 Test F1 Landslides: 0.12932 25 Train loss: 0.008808 Test loss: 0.009138 Train F1 Background: 0.979625 Train F1 Landslides: 0.213366 Test F1 Background: 0.977822 Test F1 Landslides: 0.129827 26 Train loss: 0.008394 Test loss: 0.008912 Train F1 Background: 0.979986 Train F1 Landslides: 0.237146 Test F1 Background: 0.978828 Test F1 Landslides: 0.21154 27 Train loss: 0.008001 Test loss: 0.00874 Train F1 Background: 0.980987 Train F1 Landslides: 0.302857 Test F1 Background: 0.977795 Test F1 Landslides: 0.125962 28 Train loss: 0.007691 Test loss: 0.008727 Train F1 Background: 0.981453 Train F1 Landslides: 0.331871 Test F1 Background: 0.9784 Test F1 Landslides: 0.177099 29 Train loss: 0.007524 Test loss: 0.008721 Train F1 Background: 0.981765 Train F1 Landslides: 0.35069 Test F1 Background: 0.978788 Test F1 Landslides: 0.207371 30 Train loss: 0.00737 Test loss: 0.008644 Train F1 Background: 0.982037 Train F1 Landslides: 0.366775 Test F1 Background: 0.978435 Test F1 Landslides: 0.180222 31 Train loss: 0.00722 Test loss: 0.00889 Train F1 Background: 0.982154 Train F1 Landslides: 0.373655 Test F1 Background: 0.979126 Test F1 Landslides: 0.234727 32 Train loss: 0.007123 Test loss: 0.008905 Train F1 Background: 0.982353 Train F1 Landslides: 0.385161 Test F1 Background: 0.978233 Test F1 Landslides: 0.162748 33 Train loss: 0.007018 Test loss: 0.008737 Train F1 Background: 0.982394 Train F1 Landslides: 0.387319 Test F1 Background: 0.978695 Test F1 Landslides: 0.200518 34 Train loss: 0.006905 Test loss: 0.008748 Train F1 Background: 0.982573 Train F1 Landslides: 0.397671 Test F1 Background: 0.978263 Test F1 Landslides: 0.164186 35 Train loss: 0.006795 Test loss: 0.009377 Train F1 Background: 0.982673 Train F1 Landslides: 0.402928 Test F1 Background: 0.98007 Test F1 Landslides: 0.305455 36 Train loss: 0.006755 Test loss: 0.009197 Train F1 Background: 0.982824 Train F1 Landslides: 0.41151 Test F1 Background: 0.9791 Test F1 Landslides: 0.23653 37 Train loss: 0.006623 Test loss: 0.008694 Train F1 Background: 0.982911 Train F1 Landslides: 0.416215 Test F1 Background: 0.978841 Test F1 Landslides: 0.21066 38 Train loss: 0.006583 Test loss: 0.008898 Train F1 Background: 0.982985 Train F1 Landslides: 0.420303 Test F1 Background: 0.979245 Test F1 Landslides: 0.242879 39 Train loss: 0.006495 Test loss: 0.008786 Train F1 Background: 0.983156 Train F1 Landslides: 0.429626 Test F1 Background: 0.979181 Test F1 Landslides: 0.236078 40 Train loss: 0.006457 Test loss: 0.009319 Train F1 Background: 0.98316 Train F1 Landslides: 0.429792 Test F1 Background: 0.979789 Test F1 Landslides: 0.286711 41 Train loss: 0.006341 Test loss: 0.008874 Train F1 Background: 0.983465 Train F1 Landslides: 0.446343 Test F1 Background: 0.97835 Test F1 Landslides: 0.171893 42 Train loss: 0.006218 Test loss: 0.009201 Train F1 Background: 0.983436 Train F1 Landslides: 0.444437 Test F1 Background: 0.97966 Test F1 Landslides: 0.276342 43 Train loss: 0.006123 Test loss: 0.009161 Train F1 Background: 0.983648 Train F1 Landslides: 0.455749 Test F1 Background: 0.979581 Test F1 Landslides: 0.271284 44 Train loss: 0.006052 Test loss: 0.008978 Train F1 Background: 0.983793 Train F1 Landslides: 0.463234 Test F1 Background: 0.979539 Test F1 Landslides: 0.263896 45 Train loss: 0.005967 Test loss: 0.009356 Train F1 Background: 0.983777 Train F1 Landslides: 0.462263 Test F1 Background: 0.979852 Test F1 Landslides: 0.29136 46 Train loss: 0.005918 Test loss: 0.008969 Train F1 Background: 0.984 Train F1 Landslides: 0.473801 Test F1 Background: 0.979456 Test F1 Landslides: 0.257507 47 Train loss: 0.005848 Test loss: 0.00925 Train F1 Background: 0.98403 Train F1 Landslides: 0.475334 Test F1 Background: 0.979627 Test F1 Landslides: 0.271952 48 Train loss: 0.005798 Test loss: 0.009471 Train F1 Background: 0.98418 Train F1 Landslides: 0.482946 Test F1 Background: 0.979833 Test F1 Landslides: 0.289698 49 Train loss: 0.005801 Test loss: 0.009129 Train F1 Background: 0.984165 Train F1 Landslides: 0.482263 Test F1 Background: 0.979654 Test F1 Landslides: 0.273671 50 Train loss: 0.005765 Test loss: 0.009257 Train F1 Background: 0.984199 Train F1 Landslides: 0.483909 Test F1 Background: 0.979715 Test F1 Landslides: 0.278417 51 Train loss: 0.005677 Test loss: 0.009058 Train F1 Background: 0.98442 Train F1 Landslides: 0.494991 Test F1 Background: 0.979437 Test F1 Landslides: 0.257292 52 Train loss: 0.005676 Test loss: 0.010001 Train F1 Background: 0.984456 Train F1 Landslides: 0.49672 Test F1 Background: 0.980522 Test F1 Landslides: 0.340604 53 Train loss: 0.005627 Test loss: 0.009201 Train F1 Background: 0.984531 Train F1 Landslides: 0.500541 Test F1 Background: 0.979371 Test F1 Landslides: 0.254917 54 Train loss: 0.005657 Test loss: 0.009365 Train F1 Background: 0.984476 Train F1 Landslides: 0.49784 Test F1 Background: 0.979124 Test F1 Landslides: 0.238631 55 Train loss: 0.005665 Test loss: 0.009362 Train F1 Background: 0.984447 Train F1 Landslides: 0.496473 Test F1 Background: 0.979716 Test F1 Landslides: 0.279354 56 Train loss: 0.005543 Test loss: 0.009652 Train F1 Background: 0.984547 Train F1 Landslides: 0.501313 Test F1 Background: 0.980156 Test F1 Landslides: 0.313707 57 Train loss: 0.005529 Test loss: 0.009092 Train F1 Background: 0.984682 Train F1 Landslides: 0.508028 Test F1 Background: 0.979003 Test F1 Landslides: 0.225154 58 Train loss: 0.005469 Test loss: 0.009191 Train F1 Background: 0.984666 Train F1 Landslides: 0.507019 Test F1 Background: 0.979544 Test F1 Landslides: 0.265973 59 Train loss: 0.005413 Test loss: 0.009461 Train F1 Background: 0.984872 Train F1 Landslides: 0.517042 Test F1 Background: 0.979835 Test F1 Landslides: 0.28846 Validation Loss: 0.009168 Val F1 Background: 0.982853 Val F1 Landslides: 0.312744
Run history:
| Test F1 Background | ▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇█▇▇▇▇▇██▇████████████████ |
| Test F1 Landslides | ▂▁▁▁▁▂▅▁▂▃▂▂▂▄▃▇▄▄▄▅▅▆▅▄▆▅▆▇▇▇▇▆▇▇▆█▆▇▆▇ |
| Test loss | █▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇█████████████████████ |
| Train F1 Landslides | ▂▁▁▁▁▁▂▂▂▃▃▃▃▄▄▅▄▄▅▅▆▆▆▆▇▇▇▇▇▇▇▇████████ |
| Train loss | █▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97984 |
| Test F1 Landslides | 0.28846 |
| Test loss | 0.00946 |
| Train F1 Background | 0.98487 |
| Train F1 Landslides | 0.51704 |
| Train loss | 0.00541 |
| Val F1 Background | 0.98285 |
| Val F1 Landslides | 0.31274 |
| Val Loss | 0.00917 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_183202-wadgzpch/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Regularize Norm FCN",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [80]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_regularize_norm_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "normalize")
torch.save(model.state_dict(), "weights/model_regularize_norm_fcn.pth")
wandb.agent(sweep_regularize_norm_fcn, function=main)
wandb.finish()
Create sweep with ID: kwgvzx94 Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/kwgvzx94
wandb: Agent Starting Run: mjar0k4v with config: wandb: batchsize: 64 wandb: epochs: 80 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_175814-mjar0k4v
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/kwgvzx94
0 Train loss: 0.273962 Test loss: 0.056051 Train F1 Background: 0.92711 Train F1 Landslides: 0.066966 Test F1 Background: 0.976043 Test F1 Landslides: 6.6e-05 1 Train loss: 0.049221 Test loss: 0.027287 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.025142 Test loss: 0.020201 Train F1 Background: 0.976994 Train F1 Landslides: 0.000443 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 3 Train loss: 0.018558 Test loss: 0.016009 Train F1 Background: 0.977037 Train F1 Landslides: 0.004287 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 4 Train loss: 0.015554 Test loss: 0.013897 Train F1 Background: 0.977096 Train F1 Landslides: 0.00972 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 5 Train loss: 0.013771 Test loss: 0.012675 Train F1 Background: 0.977248 Train F1 Landslides: 0.023139 Test F1 Background: 0.976363 Test F1 Landslides: 0.004167 6 Train loss: 0.012568 Test loss: 0.011779 Train F1 Background: 0.977435 Train F1 Landslides: 0.039797 Test F1 Background: 0.976398 Test F1 Landslides: 0.007487 7 Train loss: 0.011822 Test loss: 0.01161 Train F1 Background: 0.977482 Train F1 Landslides: 0.043598 Test F1 Background: 0.977185 Test F1 Landslides: 0.080666 8 Train loss: 0.011079 Test loss: 0.010703 Train F1 Background: 0.977776 Train F1 Landslides: 0.068687 Test F1 Background: 0.977152 Test F1 Landslides: 0.075149 9 Train loss: 0.010522 Test loss: 0.010294 Train F1 Background: 0.978262 Train F1 Landslides: 0.108417 Test F1 Background: 0.976753 Test F1 Landslides: 0.042134 10 Train loss: 0.010102 Test loss: 0.009954 Train F1 Background: 0.978364 Train F1 Landslides: 0.117056 Test F1 Background: 0.976598 Test F1 Landslides: 0.025248 11 Train loss: 0.009773 Test loss: 0.00979 Train F1 Background: 0.978562 Train F1 Landslides: 0.131742 Test F1 Background: 0.977128 Test F1 Landslides: 0.074474 12 Train loss: 0.009458 Test loss: 0.010161 Train F1 Background: 0.979011 Train F1 Landslides: 0.166645 Test F1 Background: 0.978422 Test F1 Landslides: 0.18652 13 Train loss: 0.009112 Test loss: 0.009496 Train F1 Background: 0.97956 Train F1 Landslides: 0.207238 Test F1 Background: 0.97675 Test F1 Landslides: 0.038066 14 Train loss: 0.008918 Test loss: 0.00936 Train F1 Background: 0.979526 Train F1 Landslides: 0.204297 Test F1 Background: 0.97727 Test F1 Landslides: 0.082854 15 Train loss: 0.008575 Test loss: 0.009523 Train F1 Background: 0.980173 Train F1 Landslides: 0.249496 Test F1 Background: 0.976952 Test F1 Landslides: 0.055006 16 Train loss: 0.008403 Test loss: 0.009297 Train F1 Background: 0.980128 Train F1 Landslides: 0.246253 Test F1 Background: 0.977541 Test F1 Landslides: 0.108644 17 Train loss: 0.008144 Test loss: 0.009085 Train F1 Background: 0.980691 Train F1 Landslides: 0.283612 Test F1 Background: 0.97818 Test F1 Landslides: 0.160399 18 Train loss: 0.007926 Test loss: 0.009379 Train F1 Background: 0.981121 Train F1 Landslides: 0.311384 Test F1 Background: 0.97878 Test F1 Landslides: 0.213929 19 Train loss: 0.007747 Test loss: 0.009197 Train F1 Background: 0.981357 Train F1 Landslides: 0.32601 Test F1 Background: 0.978361 Test F1 Landslides: 0.175795 20 Train loss: 0.007492 Test loss: 0.009381 Train F1 Background: 0.981882 Train F1 Landslides: 0.357946 Test F1 Background: 0.97865 Test F1 Landslides: 0.20175 21 Train loss: 0.007365 Test loss: 0.009178 Train F1 Background: 0.981916 Train F1 Landslides: 0.359801 Test F1 Background: 0.978048 Test F1 Landslides: 0.149984 22 Train loss: 0.007149 Test loss: 0.009294 Train F1 Background: 0.982164 Train F1 Landslides: 0.374023 Test F1 Background: 0.97888 Test F1 Landslides: 0.218524 23 Train loss: 0.007033 Test loss: 0.009442 Train F1 Background: 0.982349 Train F1 Landslides: 0.385064 Test F1 Background: 0.97835 Test F1 Landslides: 0.180087 24 Train loss: 0.006982 Test loss: 0.009306 Train F1 Background: 0.982421 Train F1 Landslides: 0.389017 Test F1 Background: 0.979128 Test F1 Landslides: 0.23573 25 Train loss: 0.006734 Test loss: 0.009546 Train F1 Background: 0.982997 Train F1 Landslides: 0.421372 Test F1 Background: 0.978503 Test F1 Landslides: 0.189859 26 Train loss: 0.006672 Test loss: 0.009134 Train F1 Background: 0.9829 Train F1 Landslides: 0.415649 Test F1 Background: 0.978583 Test F1 Landslides: 0.193121 27 Train loss: 0.00654 Test loss: 0.009208 Train F1 Background: 0.983042 Train F1 Landslides: 0.423609 Test F1 Background: 0.97871 Test F1 Landslides: 0.201065 28 Train loss: 0.006436 Test loss: 0.009308 Train F1 Background: 0.983342 Train F1 Landslides: 0.439824 Test F1 Background: 0.978871 Test F1 Landslides: 0.215599 29 Train loss: 0.006334 Test loss: 0.00953 Train F1 Background: 0.983407 Train F1 Landslides: 0.443263 Test F1 Background: 0.979108 Test F1 Landslides: 0.238469 30 Train loss: 0.006278 Test loss: 0.009392 Train F1 Background: 0.983471 Train F1 Landslides: 0.446552 Test F1 Background: 0.979028 Test F1 Landslides: 0.228925 31 Train loss: 0.00621 Test loss: 0.010055 Train F1 Background: 0.983583 Train F1 Landslides: 0.452484 Test F1 Background: 0.979499 Test F1 Landslides: 0.275009 32 Train loss: 0.006127 Test loss: 0.009115 Train F1 Background: 0.98373 Train F1 Landslides: 0.460073 Test F1 Background: 0.978656 Test F1 Landslides: 0.196586 33 Train loss: 0.005953 Test loss: 0.009518 Train F1 Background: 0.98398 Train F1 Landslides: 0.472871 Test F1 Background: 0.979041 Test F1 Landslides: 0.230788 34 Train loss: 0.006065 Test loss: 0.009275 Train F1 Background: 0.983763 Train F1 Landslides: 0.461749 Test F1 Background: 0.978715 Test F1 Landslides: 0.204932 35 Train loss: 0.00591 Test loss: 0.009322 Train F1 Background: 0.984013 Train F1 Landslides: 0.474685 Test F1 Background: 0.978949 Test F1 Landslides: 0.224092 36 Train loss: 0.005827 Test loss: 0.009249 Train F1 Background: 0.984084 Train F1 Landslides: 0.478052 Test F1 Background: 0.979093 Test F1 Landslides: 0.231398 37 Train loss: 0.00571 Test loss: 0.009342 Train F1 Background: 0.984332 Train F1 Landslides: 0.490498 Test F1 Background: 0.979083 Test F1 Landslides: 0.232398 38 Train loss: 0.005731 Test loss: 0.010481 Train F1 Background: 0.984318 Train F1 Landslides: 0.489885 Test F1 Background: 0.980286 Test F1 Landslides: 0.329341 39 Train loss: 0.005679 Test loss: 0.010277 Train F1 Background: 0.984452 Train F1 Landslides: 0.4966 Test F1 Background: 0.980022 Test F1 Landslides: 0.307911 40 Train loss: 0.005672 Test loss: 0.009676 Train F1 Background: 0.9845 Train F1 Landslides: 0.49908 Test F1 Background: 0.979423 Test F1 Landslides: 0.259101 41 Train loss: 0.005661 Test loss: 0.009285 Train F1 Background: 0.984505 Train F1 Landslides: 0.499377 Test F1 Background: 0.978567 Test F1 Landslides: 0.19224 42 Train loss: 0.005656 Test loss: 0.011272 Train F1 Background: 0.98447 Train F1 Landslides: 0.497712 Test F1 Background: 0.980568 Test F1 Landslides: 0.354082 43 Train loss: 0.005586 Test loss: 0.009453 Train F1 Background: 0.984623 Train F1 Landslides: 0.505015 Test F1 Background: 0.979037 Test F1 Landslides: 0.225612 44 Train loss: 0.005461 Test loss: 0.010251 Train F1 Background: 0.984827 Train F1 Landslides: 0.514801 Test F1 Background: 0.979937 Test F1 Landslides: 0.301561 45 Train loss: 0.005387 Test loss: 0.0095 Train F1 Background: 0.985025 Train F1 Landslides: 0.524271 Test F1 Background: 0.979158 Test F1 Landslides: 0.239898 46 Train loss: 0.005388 Test loss: 0.010262 Train F1 Background: 0.984951 Train F1 Landslides: 0.520733 Test F1 Background: 0.980068 Test F1 Landslides: 0.31073 47 Train loss: 0.005347 Test loss: 0.009823 Train F1 Background: 0.985071 Train F1 Landslides: 0.526517 Test F1 Background: 0.979024 Test F1 Landslides: 0.231444 48 Train loss: 0.005375 Test loss: 0.009831 Train F1 Background: 0.985063 Train F1 Landslides: 0.526196 Test F1 Background: 0.979053 Test F1 Landslides: 0.233752 49 Train loss: 0.005372 Test loss: 0.010016 Train F1 Background: 0.985146 Train F1 Landslides: 0.530237 Test F1 Background: 0.979324 Test F1 Landslides: 0.256505 50 Train loss: 0.005277 Test loss: 0.009648 Train F1 Background: 0.985199 Train F1 Landslides: 0.5327 Test F1 Background: 0.97853 Test F1 Landslides: 0.190077 51 Train loss: 0.005255 Test loss: 0.010161 Train F1 Background: 0.985263 Train F1 Landslides: 0.535532 Test F1 Background: 0.979609 Test F1 Landslides: 0.277992 52 Train loss: 0.005252 Test loss: 0.009827 Train F1 Background: 0.985283 Train F1 Landslides: 0.536532 Test F1 Background: 0.979731 Test F1 Landslides: 0.282248 53 Train loss: 0.005187 Test loss: 0.009701 Train F1 Background: 0.985483 Train F1 Landslides: 0.545832 Test F1 Background: 0.979437 Test F1 Landslides: 0.259688 54 Train loss: 0.005123 Test loss: 0.010377 Train F1 Background: 0.985545 Train F1 Landslides: 0.548614 Test F1 Background: 0.980051 Test F1 Landslides: 0.309832 55 Train loss: 0.0051 Test loss: 0.010088 Train F1 Background: 0.985615 Train F1 Landslides: 0.551808 Test F1 Background: 0.979821 Test F1 Landslides: 0.292904 56 Train loss: 0.005049 Test loss: 0.010089 Train F1 Background: 0.985641 Train F1 Landslides: 0.552965 Test F1 Background: 0.979837 Test F1 Landslides: 0.291128 57 Train loss: 0.005079 Test loss: 0.010413 Train F1 Background: 0.985686 Train F1 Landslides: 0.555025 Test F1 Background: 0.980198 Test F1 Landslides: 0.31921 58 Train loss: 0.005101 Test loss: 0.010597 Train F1 Background: 0.985717 Train F1 Landslides: 0.556628 Test F1 Background: 0.980283 Test F1 Landslides: 0.325595 59 Train loss: 0.005107 Test loss: 0.010375 Train F1 Background: 0.985665 Train F1 Landslides: 0.554307 Test F1 Background: 0.979688 Test F1 Landslides: 0.282816 60 Train loss: 0.005056 Test loss: 0.00961 Train F1 Background: 0.985688 Train F1 Landslides: 0.555269 Test F1 Background: 0.978679 Test F1 Landslides: 0.202693 61 Train loss: 0.005097 Test loss: 0.010533 Train F1 Background: 0.98565 Train F1 Landslides: 0.553616 Test F1 Background: 0.979731 Test F1 Landslides: 0.288519 62 Train loss: 0.005038 Test loss: 0.009801 Train F1 Background: 0.985776 Train F1 Landslides: 0.559215 Test F1 Background: 0.979189 Test F1 Landslides: 0.242049 63 Train loss: 0.004991 Test loss: 0.010233 Train F1 Background: 0.985847 Train F1 Landslides: 0.562391 Test F1 Background: 0.979569 Test F1 Landslides: 0.275781 64 Train loss: 0.004988 Test loss: 0.010524 Train F1 Background: 0.985876 Train F1 Landslides: 0.563774 Test F1 Background: 0.97982 Test F1 Landslides: 0.296512 65 Train loss: 0.004953 Test loss: 0.009962 Train F1 Background: 0.985856 Train F1 Landslides: 0.562777 Test F1 Background: 0.979681 Test F1 Landslides: 0.279619 66 Train loss: 0.004896 Test loss: 0.010003 Train F1 Background: 0.986037 Train F1 Landslides: 0.570862 Test F1 Background: 0.979316 Test F1 Landslides: 0.253427 67 Train loss: 0.004923 Test loss: 0.010076 Train F1 Background: 0.986001 Train F1 Landslides: 0.569221 Test F1 Background: 0.979623 Test F1 Landslides: 0.276136 68 Train loss: 0.004899 Test loss: 0.009911 Train F1 Background: 0.98603 Train F1 Landslides: 0.570557 Test F1 Background: 0.97948 Test F1 Landslides: 0.262661 69 Train loss: 0.004914 Test loss: 0.010244 Train F1 Background: 0.986003 Train F1 Landslides: 0.56938 Test F1 Background: 0.979719 Test F1 Landslides: 0.285265 70 Train loss: 0.004943 Test loss: 0.010319 Train F1 Background: 0.986067 Train F1 Landslides: 0.572389 Test F1 Background: 0.979712 Test F1 Landslides: 0.287231 71 Train loss: 0.005006 Test loss: 0.010329 Train F1 Background: 0.985883 Train F1 Landslides: 0.564262 Test F1 Background: 0.979344 Test F1 Landslides: 0.254823 72 Train loss: 0.004998 Test loss: 0.011236 Train F1 Background: 0.985817 Train F1 Landslides: 0.561176 Test F1 Background: 0.980105 Test F1 Landslides: 0.319667 73 Train loss: 0.004951 Test loss: 0.010289 Train F1 Background: 0.985986 Train F1 Landslides: 0.568721 Test F1 Background: 0.979784 Test F1 Landslides: 0.290593 74 Train loss: 0.004872 Test loss: 0.010255 Train F1 Background: 0.986122 Train F1 Landslides: 0.574782 Test F1 Background: 0.979845 Test F1 Landslides: 0.293141 75 Train loss: 0.004847 Test loss: 0.010441 Train F1 Background: 0.986132 Train F1 Landslides: 0.575064 Test F1 Background: 0.979899 Test F1 Landslides: 0.299255 76 Train loss: 0.004824 Test loss: 0.010265 Train F1 Background: 0.98616 Train F1 Landslides: 0.576339 Test F1 Background: 0.979909 Test F1 Landslides: 0.294775 77 Train loss: 0.004838 Test loss: 0.010904 Train F1 Background: 0.986254 Train F1 Landslides: 0.580545 Test F1 Background: 0.980392 Test F1 Landslides: 0.334514 78 Train loss: 0.004836 Test loss: 0.01076 Train F1 Background: 0.986183 Train F1 Landslides: 0.577374 Test F1 Background: 0.980094 Test F1 Landslides: 0.313036 79 Train loss: 0.004794 Test loss: 0.010919 Train F1 Background: 0.986245 Train F1 Landslides: 0.580136 Test F1 Background: 0.979956 Test F1 Landslides: 0.30779 Validation Loss: 0.009884 Val F1 Background: 0.983122 Val F1 Landslides: 0.335146
Run history:
| Test F1 Background | ▁▁▁▂▃▂▅▃▃▅▅▅▆▅▅▆▅▅▆█▆█▇▇▆▅▇▇▇█▅▆▇▆▆▇▇▇▇▇ |
| Test F1 Landslides | ▁▁▁▁▂▁▅▃▃▅▅▅▆▅▅▆▅▅▆█▆█▇▇▆▅▇▇▇▇▅▆▇▆▆▇▇▇▇▇ |
| Test loss | █▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▇▇▇▇▇▇▇▇▇▇█████████████████████████████ |
| Train F1 Landslides | ▂▁▁▁▂▂▃▃▄▅▅▆▆▆▆▆▇▇▇▇▇▇▇▇▇▇▇█████████████ |
| Train loss | █▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97996 |
| Test F1 Landslides | 0.30779 |
| Test loss | 0.01092 |
| Train F1 Background | 0.98625 |
| Train F1 Landslides | 0.58014 |
| Train loss | 0.00479 |
| Val F1 Background | 0.98312 |
| Val F1 Landslides | 0.33515 |
| Val Loss | 0.00988 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_175814-mjar0k4v/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Normalization Deeplabv3¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Regularize Norm Deeplabv3",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [60]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_regularize_norm = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "normalize")
torch.save(model.state_dict(), "weights/model_regularize_norm_deeplab2.pth")
wandb.agent(sweep_regularize_norm, function=main)
wandb.finish()
Create sweep with ID: 6jr2pvtg Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/6jr2pvtg
wandb: Agent Starting Run: 7isg352q with config: wandb: batchsize: 64 wandb: epochs: 60 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_185058-7isg352q
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/6jr2pvtg
0 Train loss: 0.333644 Test loss: 0.160966 Train F1 Background: 0.936835 Train F1 Landslides: 0.119179 Test F1 Background: 0.976162 Test F1 Landslides: 0.000198 1 Train loss: 0.090312 Test loss: 0.075653 Train F1 Background: 0.976956 Train F1 Landslides: 7.8e-05 Test F1 Background: 0.972484 Test F1 Landslides: 0.001681 2 Train loss: 0.045883 Test loss: 0.038662 Train F1 Background: 0.976985 Train F1 Landslides: 0.0 Test F1 Background: 0.975631 Test F1 Landslides: 0.000528 3 Train loss: 0.030847 Test loss: 0.025725 Train F1 Background: 0.976987 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 4 Train loss: 0.023491 Test loss: 0.020898 Train F1 Background: 0.977023 Train F1 Landslides: 0.003073 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 5 Train loss: 0.019437 Test loss: 0.017161 Train F1 Background: 0.977039 Train F1 Landslides: 0.004611 Test F1 Background: 0.976326 Test F1 Landslides: 0.000239 6 Train loss: 0.016987 Test loss: 0.018146 Train F1 Background: 0.977151 Train F1 Landslides: 0.014604 Test F1 Background: 0.976031 Test F1 Landslides: 0.011658 7 Train loss: 0.015225 Test loss: 0.017177 Train F1 Background: 0.977241 Train F1 Landslides: 0.02339 Test F1 Background: 0.976783 Test F1 Landslides: 0.093527 8 Train loss: 0.013967 Test loss: 0.016634 Train F1 Background: 0.977438 Train F1 Landslides: 0.040717 Test F1 Background: 0.975968 Test F1 Landslides: 0.003348 9 Train loss: 0.013091 Test loss: 0.014566 Train F1 Background: 0.977455 Train F1 Landslides: 0.042683 Test F1 Background: 0.976223 Test F1 Landslides: 0.017178 10 Train loss: 0.012366 Test loss: 0.015712 Train F1 Background: 0.977416 Train F1 Landslides: 0.038614 Test F1 Background: 0.976071 Test F1 Landslides: 0.014631 11 Train loss: 0.011763 Test loss: 0.01718 Train F1 Background: 0.977872 Train F1 Landslides: 0.077393 Test F1 Background: 0.975683 Test F1 Landslides: 0.005704 12 Train loss: 0.011289 Test loss: 0.014956 Train F1 Background: 0.977746 Train F1 Landslides: 0.066753 Test F1 Background: 0.976585 Test F1 Landslides: 0.063333 13 Train loss: 0.011065 Test loss: 0.012003 Train F1 Background: 0.977639 Train F1 Landslides: 0.057331 Test F1 Background: 0.977899 Test F1 Landslides: 0.161136 14 Train loss: 0.010794 Test loss: 0.010965 Train F1 Background: 0.977918 Train F1 Landslides: 0.082149 Test F1 Background: 0.97636 Test F1 Landslides: 0.026004 15 Train loss: 0.010255 Test loss: 0.010938 Train F1 Background: 0.978167 Train F1 Landslides: 0.101662 Test F1 Background: 0.976967 Test F1 Landslides: 0.085595 16 Train loss: 0.010148 Test loss: 0.010143 Train F1 Background: 0.9783 Train F1 Landslides: 0.112245 Test F1 Background: 0.978077 Test F1 Landslides: 0.156893 17 Train loss: 0.009808 Test loss: 0.009669 Train F1 Background: 0.978527 Train F1 Landslides: 0.130211 Test F1 Background: 0.976902 Test F1 Landslides: 0.051833 18 Train loss: 0.009444 Test loss: 0.010038 Train F1 Background: 0.97902 Train F1 Landslides: 0.168114 Test F1 Background: 0.976705 Test F1 Landslides: 0.049111 19 Train loss: 0.009162 Test loss: 0.009227 Train F1 Background: 0.979323 Train F1 Landslides: 0.19005 Test F1 Background: 0.977064 Test F1 Landslides: 0.06483 20 Train loss: 0.009159 Test loss: 0.009112 Train F1 Background: 0.979556 Train F1 Landslides: 0.207483 Test F1 Background: 0.977235 Test F1 Landslides: 0.079387 21 Train loss: 0.008843 Test loss: 0.009547 Train F1 Background: 0.979876 Train F1 Landslides: 0.229353 Test F1 Background: 0.978366 Test F1 Landslides: 0.179581 22 Train loss: 0.008697 Test loss: 0.008996 Train F1 Background: 0.980068 Train F1 Landslides: 0.242766 Test F1 Background: 0.977477 Test F1 Landslides: 0.100914 23 Train loss: 0.008491 Test loss: 0.009426 Train F1 Background: 0.980447 Train F1 Landslides: 0.268806 Test F1 Background: 0.979218 Test F1 Landslides: 0.246077 24 Train loss: 0.008254 Test loss: 0.008985 Train F1 Background: 0.980609 Train F1 Landslides: 0.278369 Test F1 Background: 0.978468 Test F1 Landslides: 0.183658 25 Train loss: 0.008152 Test loss: 0.00918 Train F1 Background: 0.981191 Train F1 Landslides: 0.316734 Test F1 Background: 0.978713 Test F1 Landslides: 0.202063 26 Train loss: 0.008158 Test loss: 0.008714 Train F1 Background: 0.980819 Train F1 Landslides: 0.292306 Test F1 Background: 0.978013 Test F1 Landslides: 0.142742 27 Train loss: 0.007915 Test loss: 0.009314 Train F1 Background: 0.981196 Train F1 Landslides: 0.316621 Test F1 Background: 0.977972 Test F1 Landslides: 0.142962 28 Train loss: 0.007988 Test loss: 0.008756 Train F1 Background: 0.981124 Train F1 Landslides: 0.312437 Test F1 Background: 0.977603 Test F1 Landslides: 0.1098 29 Train loss: 0.007751 Test loss: 0.009607 Train F1 Background: 0.981276 Train F1 Landslides: 0.321244 Test F1 Background: 0.979722 Test F1 Landslides: 0.288064 30 Train loss: 0.007544 Test loss: 0.009181 Train F1 Background: 0.981652 Train F1 Landslides: 0.344345 Test F1 Background: 0.979162 Test F1 Landslides: 0.240952 31 Train loss: 0.007366 Test loss: 0.008877 Train F1 Background: 0.981982 Train F1 Landslides: 0.363952 Test F1 Background: 0.977809 Test F1 Landslides: 0.128725 32 Train loss: 0.007243 Test loss: 0.008894 Train F1 Background: 0.981925 Train F1 Landslides: 0.360119 Test F1 Background: 0.979098 Test F1 Landslides: 0.232434 33 Train loss: 0.007091 Test loss: 0.008823 Train F1 Background: 0.982291 Train F1 Landslides: 0.381459 Test F1 Background: 0.979102 Test F1 Landslides: 0.230369 34 Train loss: 0.006973 Test loss: 0.008736 Train F1 Background: 0.982426 Train F1 Landslides: 0.389176 Test F1 Background: 0.978664 Test F1 Landslides: 0.196594 35 Train loss: 0.006848 Test loss: 0.008789 Train F1 Background: 0.982535 Train F1 Landslides: 0.395248 Test F1 Background: 0.979419 Test F1 Landslides: 0.255388 36 Train loss: 0.006709 Test loss: 0.008933 Train F1 Background: 0.982764 Train F1 Landslides: 0.408088 Test F1 Background: 0.979077 Test F1 Landslides: 0.230656 37 Train loss: 0.006696 Test loss: 0.009755 Train F1 Background: 0.982784 Train F1 Landslides: 0.409097 Test F1 Background: 0.979559 Test F1 Landslides: 0.279115 38 Train loss: 0.006615 Test loss: 0.009255 Train F1 Background: 0.982876 Train F1 Landslides: 0.414294 Test F1 Background: 0.979357 Test F1 Landslides: 0.254857 39 Train loss: 0.006568 Test loss: 0.008889 Train F1 Background: 0.982972 Train F1 Landslides: 0.419826 Test F1 Background: 0.979324 Test F1 Landslides: 0.247842 40 Train loss: 0.006542 Test loss: 0.009532 Train F1 Background: 0.983091 Train F1 Landslides: 0.426122 Test F1 Background: 0.980294 Test F1 Landslides: 0.323612 41 Train loss: 0.006413 Test loss: 0.008783 Train F1 Background: 0.983255 Train F1 Landslides: 0.435022 Test F1 Background: 0.978423 Test F1 Landslides: 0.177283 42 Train loss: 0.006409 Test loss: 0.009174 Train F1 Background: 0.983184 Train F1 Landslides: 0.431222 Test F1 Background: 0.979421 Test F1 Landslides: 0.256886 43 Train loss: 0.006266 Test loss: 0.008993 Train F1 Background: 0.983474 Train F1 Landslides: 0.446685 Test F1 Background: 0.979428 Test F1 Landslides: 0.253599 44 Train loss: 0.006147 Test loss: 0.008936 Train F1 Background: 0.983586 Train F1 Landslides: 0.452428 Test F1 Background: 0.978842 Test F1 Landslides: 0.212012 45 Train loss: 0.00607 Test loss: 0.008803 Train F1 Background: 0.983718 Train F1 Landslides: 0.45925 Test F1 Background: 0.978896 Test F1 Landslides: 0.213492 46 Train loss: 0.006021 Test loss: 0.009111 Train F1 Background: 0.983771 Train F1 Landslides: 0.46206 Test F1 Background: 0.979455 Test F1 Landslides: 0.260948 47 Train loss: 0.005964 Test loss: 0.009107 Train F1 Background: 0.983881 Train F1 Landslides: 0.467702 Test F1 Background: 0.979581 Test F1 Landslides: 0.268886 48 Train loss: 0.005859 Test loss: 0.008983 Train F1 Background: 0.984002 Train F1 Landslides: 0.473897 Test F1 Background: 0.979181 Test F1 Landslides: 0.235167 49 Train loss: 0.005859 Test loss: 0.009127 Train F1 Background: 0.984052 Train F1 Landslides: 0.476501 Test F1 Background: 0.979546 Test F1 Landslides: 0.262703 50 Train loss: 0.005756 Test loss: 0.009167 Train F1 Background: 0.984217 Train F1 Landslides: 0.484689 Test F1 Background: 0.979755 Test F1 Landslides: 0.283176 51 Train loss: 0.005709 Test loss: 0.009129 Train F1 Background: 0.984283 Train F1 Landslides: 0.48805 Test F1 Background: 0.979238 Test F1 Landslides: 0.242318 52 Train loss: 0.005676 Test loss: 0.009447 Train F1 Background: 0.984354 Train F1 Landslides: 0.491592 Test F1 Background: 0.979892 Test F1 Landslides: 0.29367 53 Train loss: 0.005783 Test loss: 0.00908 Train F1 Background: 0.984186 Train F1 Landslides: 0.483327 Test F1 Background: 0.979331 Test F1 Landslides: 0.246257 54 Train loss: 0.005733 Test loss: 0.009175 Train F1 Background: 0.984382 Train F1 Landslides: 0.493352 Test F1 Background: 0.979497 Test F1 Landslides: 0.26636 55 Train loss: 0.005582 Test loss: 0.009251 Train F1 Background: 0.98446 Train F1 Landslides: 0.496983 Test F1 Background: 0.979655 Test F1 Landslides: 0.271676 56 Train loss: 0.005547 Test loss: 0.008989 Train F1 Background: 0.984545 Train F1 Landslides: 0.501075 Test F1 Background: 0.979662 Test F1 Landslides: 0.272703 57 Train loss: 0.005525 Test loss: 0.009235 Train F1 Background: 0.984645 Train F1 Landslides: 0.506022 Test F1 Background: 0.979702 Test F1 Landslides: 0.275406 58 Train loss: 0.00561 Test loss: 0.009323 Train F1 Background: 0.984573 Train F1 Landslides: 0.50265 Test F1 Background: 0.979009 Test F1 Landslides: 0.228623 59 Train loss: 0.005531 Test loss: 0.009085 Train F1 Background: 0.98453 Train F1 Landslides: 0.500426 Test F1 Background: 0.979597 Test F1 Landslides: 0.266651 Validation Loss: 0.008943 Val F1 Background: 0.982734 Val F1 Landslides: 0.299182
Run history:
| Test F1 Background | ▄▁▄▄▄▅▄▄▅▆▅▆▅▅▆▅▆▇▆▆▇▆▇▇▇▇▇█▇▇▇▇▇▇▇█▇▇▇▇ |
| Test F1 Landslides | ▁▁▁▁▁▃▁▁▂▄▃▄▂▂▅▃▅▅▄▃▆▄▆▅▆▇▆█▇▆▆▇▆▇▆▇▇▇▇▇ |
| Test loss | █▄▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇████████████████████ |
| Train F1 Landslides | ▃▁▁▁▁▁▂▂▂▂▂▃▃▄▄▄▅▅▅▅▆▆▆▆▇▇▇▇▇▇▇▇████████ |
| Train loss | █▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.9796 |
| Test F1 Landslides | 0.26665 |
| Test loss | 0.00909 |
| Train F1 Background | 0.98453 |
| Train F1 Landslides | 0.50043 |
| Train loss | 0.00553 |
| Val F1 Background | 0.98273 |
| Val F1 Landslides | 0.29918 |
| Val Loss | 0.00894 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_185058-7isg352q/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Flip FCN¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Regularize Flip FCN",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [80]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_regularize_flip_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "flip")
torch.save(model.state_dict(), "weights/model_regularize_flip_fcn.pth")
wandb.agent(sweep_regularize_flip_fcn, function=main)
wandb.finish()
Create sweep with ID: lhdw2jvn Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/lhdw2jvn
wandb: Agent Starting Run: iqzb7fjc with config: wandb: batchsize: 64 wandb: epochs: 80 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_164717-iqzb7fjc
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/lhdw2jvn
0 Train loss: 0.25729 Test loss: 0.055482 Train F1 Background: 0.938109 Train F1 Landslides: 0.050259 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 1 Train loss: 0.043559 Test loss: 0.028375 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.02401 Test loss: 0.019789 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 3 Train loss: 0.01837 Test loss: 0.01609 Train F1 Background: 0.976997 Train F1 Landslides: 0.00073 Test F1 Background: 0.976328 Test F1 Landslides: 0.000424 4 Train loss: 0.015654 Test loss: 0.014137 Train F1 Background: 0.976997 Train F1 Landslides: 0.000736 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 5 Train loss: 0.014043 Test loss: 0.012801 Train F1 Background: 0.977041 Train F1 Landslides: 0.004691 Test F1 Background: 0.976431 Test F1 Landslides: 0.010872 6 Train loss: 0.012989 Test loss: 0.011947 Train F1 Background: 0.977062 Train F1 Landslides: 0.006737 Test F1 Background: 0.976324 Test F1 Landslides: 0.001007 7 Train loss: 0.012082 Test loss: 0.011161 Train F1 Background: 0.977177 Train F1 Landslides: 0.016969 Test F1 Background: 0.976361 Test F1 Landslides: 0.004746 8 Train loss: 0.011407 Test loss: 0.010612 Train F1 Background: 0.977265 Train F1 Landslides: 0.02499 Test F1 Background: 0.976338 Test F1 Landslides: 0.00229 9 Train loss: 0.010951 Test loss: 0.010445 Train F1 Background: 0.977304 Train F1 Landslides: 0.02866 Test F1 Background: 0.976484 Test F1 Landslides: 0.014853 10 Train loss: 0.010459 Test loss: 0.010046 Train F1 Background: 0.9773 Train F1 Landslides: 0.027798 Test F1 Background: 0.976816 Test F1 Landslides: 0.047142 11 Train loss: 0.010036 Test loss: 0.009678 Train F1 Background: 0.97762 Train F1 Landslides: 0.055845 Test F1 Background: 0.976772 Test F1 Landslides: 0.040498 12 Train loss: 0.009857 Test loss: 0.009708 Train F1 Background: 0.977875 Train F1 Landslides: 0.077206 Test F1 Background: 0.977038 Test F1 Landslides: 0.065973 13 Train loss: 0.009511 Test loss: 0.009333 Train F1 Background: 0.978131 Train F1 Landslides: 0.098187 Test F1 Background: 0.976806 Test F1 Landslides: 0.043986 14 Train loss: 0.009318 Test loss: 0.009532 Train F1 Background: 0.978446 Train F1 Landslides: 0.124098 Test F1 Background: 0.976361 Test F1 Landslides: 0.003455 15 Train loss: 0.009265 Test loss: 0.011297 Train F1 Background: 0.97832 Train F1 Landslides: 0.113737 Test F1 Background: 0.978761 Test F1 Landslides: 0.239877 16 Train loss: 0.009094 Test loss: 0.009008 Train F1 Background: 0.978501 Train F1 Landslides: 0.127724 Test F1 Background: 0.976556 Test F1 Landslides: 0.020521 17 Train loss: 0.008879 Test loss: 0.00935 Train F1 Background: 0.978928 Train F1 Landslides: 0.161468 Test F1 Background: 0.976567 Test F1 Landslides: 0.022264 18 Train loss: 0.008835 Test loss: 0.009035 Train F1 Background: 0.978697 Train F1 Landslides: 0.143505 Test F1 Background: 0.977788 Test F1 Landslides: 0.130731 19 Train loss: 0.008571 Test loss: 0.008779 Train F1 Background: 0.979131 Train F1 Landslides: 0.175256 Test F1 Background: 0.977198 Test F1 Landslides: 0.081024 20 Train loss: 0.008395 Test loss: 0.008813 Train F1 Background: 0.97973 Train F1 Landslides: 0.219496 Test F1 Background: 0.976857 Test F1 Landslides: 0.046889 21 Train loss: 0.008147 Test loss: 0.008918 Train F1 Background: 0.980017 Train F1 Landslides: 0.239309 Test F1 Background: 0.976803 Test F1 Landslides: 0.043063 22 Train loss: 0.008026 Test loss: 0.008557 Train F1 Background: 0.980255 Train F1 Landslides: 0.254858 Test F1 Background: 0.978039 Test F1 Landslides: 0.147966 23 Train loss: 0.007887 Test loss: 0.008622 Train F1 Background: 0.980664 Train F1 Landslides: 0.28262 Test F1 Background: 0.97744 Test F1 Landslides: 0.097926 24 Train loss: 0.007886 Test loss: 0.00892 Train F1 Background: 0.980703 Train F1 Landslides: 0.284953 Test F1 Background: 0.976884 Test F1 Landslides: 0.04917 25 Train loss: 0.007762 Test loss: 0.008647 Train F1 Background: 0.980741 Train F1 Landslides: 0.287437 Test F1 Background: 0.978573 Test F1 Landslides: 0.192982 26 Train loss: 0.007709 Test loss: 0.00864 Train F1 Background: 0.980918 Train F1 Landslides: 0.299081 Test F1 Background: 0.977854 Test F1 Landslides: 0.134937 27 Train loss: 0.007593 Test loss: 0.008977 Train F1 Background: 0.981135 Train F1 Landslides: 0.312843 Test F1 Background: 0.978846 Test F1 Landslides: 0.217812 28 Train loss: 0.007505 Test loss: 0.00951 Train F1 Background: 0.981176 Train F1 Landslides: 0.315103 Test F1 Background: 0.978484 Test F1 Landslides: 0.206372 29 Train loss: 0.007904 Test loss: 0.008771 Train F1 Background: 0.980657 Train F1 Landslides: 0.283201 Test F1 Background: 0.977701 Test F1 Landslides: 0.123543 30 Train loss: 0.00828 Test loss: 0.008662 Train F1 Background: 0.979686 Train F1 Landslides: 0.217384 Test F1 Background: 0.977793 Test F1 Landslides: 0.130305 31 Train loss: 0.007919 Test loss: 0.009023 Train F1 Background: 0.979969 Train F1 Landslides: 0.236476 Test F1 Background: 0.97885 Test F1 Landslides: 0.222603 32 Train loss: 0.007672 Test loss: 0.008602 Train F1 Background: 0.980701 Train F1 Landslides: 0.285492 Test F1 Background: 0.977999 Test F1 Landslides: 0.147052 33 Train loss: 0.007421 Test loss: 0.008841 Train F1 Background: 0.981266 Train F1 Landslides: 0.320881 Test F1 Background: 0.977573 Test F1 Landslides: 0.110641 34 Train loss: 0.007253 Test loss: 0.008582 Train F1 Background: 0.981565 Train F1 Landslides: 0.339153 Test F1 Background: 0.97854 Test F1 Landslides: 0.191923 35 Train loss: 0.007051 Test loss: 0.008809 Train F1 Background: 0.981959 Train F1 Landslides: 0.362793 Test F1 Background: 0.978932 Test F1 Landslides: 0.221855 36 Train loss: 0.006975 Test loss: 0.00853 Train F1 Background: 0.982173 Train F1 Landslides: 0.374953 Test F1 Background: 0.97867 Test F1 Landslides: 0.196184 37 Train loss: 0.006846 Test loss: 0.008926 Train F1 Background: 0.982404 Train F1 Landslides: 0.388825 Test F1 Background: 0.979377 Test F1 Landslides: 0.255545 38 Train loss: 0.006661 Test loss: 0.008782 Train F1 Background: 0.982662 Train F1 Landslides: 0.402597 Test F1 Background: 0.979453 Test F1 Landslides: 0.257069 39 Train loss: 0.006574 Test loss: 0.008946 Train F1 Background: 0.982933 Train F1 Landslides: 0.417796 Test F1 Background: 0.979452 Test F1 Landslides: 0.263037 40 Train loss: 0.006602 Test loss: 0.008815 Train F1 Background: 0.982859 Train F1 Landslides: 0.413864 Test F1 Background: 0.97922 Test F1 Landslides: 0.240637 41 Train loss: 0.006473 Test loss: 0.01008 Train F1 Background: 0.983055 Train F1 Landslides: 0.424475 Test F1 Background: 0.98057 Test F1 Landslides: 0.351275 42 Train loss: 0.006468 Test loss: 0.009318 Train F1 Background: 0.983187 Train F1 Landslides: 0.431799 Test F1 Background: 0.979992 Test F1 Landslides: 0.303259 43 Train loss: 0.006293 Test loss: 0.008892 Train F1 Background: 0.983335 Train F1 Landslides: 0.439414 Test F1 Background: 0.97945 Test F1 Landslides: 0.258478 44 Train loss: 0.006192 Test loss: 0.008983 Train F1 Background: 0.983543 Train F1 Landslides: 0.450423 Test F1 Background: 0.979702 Test F1 Landslides: 0.278832 45 Train loss: 0.006139 Test loss: 0.008717 Train F1 Background: 0.983682 Train F1 Landslides: 0.457796 Test F1 Background: 0.978673 Test F1 Landslides: 0.198444 46 Train loss: 0.006134 Test loss: 0.008942 Train F1 Background: 0.983714 Train F1 Landslides: 0.459525 Test F1 Background: 0.979625 Test F1 Landslides: 0.269329 47 Train loss: 0.00602 Test loss: 0.009506 Train F1 Background: 0.983732 Train F1 Landslides: 0.460163 Test F1 Background: 0.980271 Test F1 Landslides: 0.321222 48 Train loss: 0.006007 Test loss: 0.010174 Train F1 Background: 0.983924 Train F1 Landslides: 0.470224 Test F1 Background: 0.980569 Test F1 Landslides: 0.349426 49 Train loss: 0.005931 Test loss: 0.009122 Train F1 Background: 0.98399 Train F1 Landslides: 0.473582 Test F1 Background: 0.979335 Test F1 Landslides: 0.252884 50 Train loss: 0.005889 Test loss: 0.009075 Train F1 Background: 0.984036 Train F1 Landslides: 0.475994 Test F1 Background: 0.979601 Test F1 Landslides: 0.268421 51 Train loss: 0.005846 Test loss: 0.009395 Train F1 Background: 0.984096 Train F1 Landslides: 0.47897 Test F1 Background: 0.979954 Test F1 Landslides: 0.300894 52 Train loss: 0.005852 Test loss: 0.009732 Train F1 Background: 0.984181 Train F1 Landslides: 0.483244 Test F1 Background: 0.979896 Test F1 Landslides: 0.296503 53 Train loss: 0.005774 Test loss: 0.00909 Train F1 Background: 0.984288 Train F1 Landslides: 0.488746 Test F1 Background: 0.979707 Test F1 Landslides: 0.273269 54 Train loss: 0.005739 Test loss: 0.009513 Train F1 Background: 0.984282 Train F1 Landslides: 0.488365 Test F1 Background: 0.980273 Test F1 Landslides: 0.318971 55 Train loss: 0.005688 Test loss: 0.00902 Train F1 Background: 0.984459 Train F1 Landslides: 0.497378 Test F1 Background: 0.97943 Test F1 Landslides: 0.257443 56 Train loss: 0.00562 Test loss: 0.008829 Train F1 Background: 0.98449 Train F1 Landslides: 0.498531 Test F1 Background: 0.979115 Test F1 Landslides: 0.231829 57 Train loss: 0.005588 Test loss: 0.009388 Train F1 Background: 0.984564 Train F1 Landslides: 0.502284 Test F1 Background: 0.980002 Test F1 Landslides: 0.301793 58 Train loss: 0.005546 Test loss: 0.009133 Train F1 Background: 0.984643 Train F1 Landslides: 0.506132 Test F1 Background: 0.979571 Test F1 Landslides: 0.267035 59 Train loss: 0.005511 Test loss: 0.011158 Train F1 Background: 0.98478 Train F1 Landslides: 0.512794 Test F1 Background: 0.981131 Test F1 Landslides: 0.392302 60 Train loss: 0.005524 Test loss: 0.009166 Train F1 Background: 0.98476 Train F1 Landslides: 0.511945 Test F1 Background: 0.979715 Test F1 Landslides: 0.275544 61 Train loss: 0.005514 Test loss: 0.00937 Train F1 Background: 0.984832 Train F1 Landslides: 0.51532 Test F1 Background: 0.979847 Test F1 Landslides: 0.290045 62 Train loss: 0.005489 Test loss: 0.009283 Train F1 Background: 0.984808 Train F1 Landslides: 0.514201 Test F1 Background: 0.97955 Test F1 Landslides: 0.266631 63 Train loss: 0.005472 Test loss: 0.008794 Train F1 Background: 0.98492 Train F1 Landslides: 0.519633 Test F1 Background: 0.97871 Test F1 Landslides: 0.201493 64 Train loss: 0.005583 Test loss: 0.010232 Train F1 Background: 0.984768 Train F1 Landslides: 0.512558 Test F1 Background: 0.980351 Test F1 Landslides: 0.334367 65 Train loss: 0.005582 Test loss: 0.009193 Train F1 Background: 0.984566 Train F1 Landslides: 0.502491 Test F1 Background: 0.979796 Test F1 Landslides: 0.281986 66 Train loss: 0.00551 Test loss: 0.009804 Train F1 Background: 0.984758 Train F1 Landslides: 0.511979 Test F1 Background: 0.980583 Test F1 Landslides: 0.340882 67 Train loss: 0.005458 Test loss: 0.009272 Train F1 Background: 0.984931 Train F1 Landslides: 0.520325 Test F1 Background: 0.979804 Test F1 Landslides: 0.283148 68 Train loss: 0.00539 Test loss: 0.009277 Train F1 Background: 0.984872 Train F1 Landslides: 0.517359 Test F1 Background: 0.979628 Test F1 Landslides: 0.270952 69 Train loss: 0.005366 Test loss: 0.009325 Train F1 Background: 0.985034 Train F1 Landslides: 0.525088 Test F1 Background: 0.979674 Test F1 Landslides: 0.27229 70 Train loss: 0.005343 Test loss: 0.009474 Train F1 Background: 0.985094 Train F1 Landslides: 0.527951 Test F1 Background: 0.979892 Test F1 Landslides: 0.291936 71 Train loss: 0.005288 Test loss: 0.009182 Train F1 Background: 0.985172 Train F1 Landslides: 0.531585 Test F1 Background: 0.979648 Test F1 Landslides: 0.270473 72 Train loss: 0.005252 Test loss: 0.009405 Train F1 Background: 0.985256 Train F1 Landslides: 0.535463 Test F1 Background: 0.979468 Test F1 Landslides: 0.25995 73 Train loss: 0.005235 Test loss: 0.010917 Train F1 Background: 0.985234 Train F1 Landslides: 0.534352 Test F1 Background: 0.981287 Test F1 Landslides: 0.395217 74 Train loss: 0.005281 Test loss: 0.009804 Train F1 Background: 0.985326 Train F1 Landslides: 0.538794 Test F1 Background: 0.98018 Test F1 Landslides: 0.315174 75 Train loss: 0.005227 Test loss: 0.009145 Train F1 Background: 0.985389 Train F1 Landslides: 0.541805 Test F1 Background: 0.978828 Test F1 Landslides: 0.209498 76 Train loss: 0.005193 Test loss: 0.010114 Train F1 Background: 0.985417 Train F1 Landslides: 0.543104 Test F1 Background: 0.980371 Test F1 Landslides: 0.329404 77 Train loss: 0.005196 Test loss: 0.01042 Train F1 Background: 0.985303 Train F1 Landslides: 0.537585 Test F1 Background: 0.980958 Test F1 Landslides: 0.368167 78 Train loss: 0.005198 Test loss: 0.010081 Train F1 Background: 0.985429 Train F1 Landslides: 0.543547 Test F1 Background: 0.980054 Test F1 Landslides: 0.313011 79 Train loss: 0.005134 Test loss: 0.009703 Train F1 Background: 0.985512 Train F1 Landslides: 0.547354 Test F1 Background: 0.979586 Test F1 Landslides: 0.270038 Validation Loss: 0.008992 Val F1 Background: 0.982784 Val F1 Landslides: 0.301968
Run history:
| Test F1 Background | ▁▁▁▁▁▂▂▁▁▃▂▄▂▄▅▃▄▅▅▆▆▇▇▆█▆▇▇▆▆▇▆██▆▇▆▇█▆ |
| Test F1 Landslides | ▁▁▁▁▁▂▂▁▁▄▂▄▂▄▅▄▄▅▅▆▆▇▇▆█▆▇▇▆▆▇▆██▆▇▆▇█▆ |
| Test loss | █▃▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇██████████████████████ |
| Train F1 Landslides | ▂▁▁▁▁▁▂▃▃▃▄▄▅▅▅▄▅▅▆▆▆▇▇▇▇▇▇▇▇▇██████████ |
| Train loss | █▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97959 |
| Test F1 Landslides | 0.27004 |
| Test loss | 0.0097 |
| Train F1 Background | 0.98551 |
| Train F1 Landslides | 0.54735 |
| Train loss | 0.00513 |
| Val F1 Background | 0.98278 |
| Val F1 Landslides | 0.30197 |
| Val Loss | 0.00899 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_164717-iqzb7fjc/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Flip Deeplabv3¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Regularize Flip Deeplabv3",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [60]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_regularize_flip = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "flip")
torch.save(model.state_dict(), "weights/model_regularize_flip_deeplab.pth")
wandb.agent(sweep_regularize_flip, function=main)
wandb.finish()
Create sweep with ID: tk8ltgu1 Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/tk8ltgu1
wandb: Agent Starting Run: odqzy5mi with config: wandb: batchsize: 64 wandb: epochs: 60 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_170405-odqzy5mi
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/tk8ltgu1
0 Train loss: 0.24403 Test loss: 0.171052 Train F1 Background: 0.973594 Train F1 Landslides: 0.027297 Test F1 Background: 0.955172 Test F1 Landslides: 0.015147 1 Train loss: 0.065091 Test loss: 0.048535 Train F1 Background: 0.976942 Train F1 Landslides: 0.0 Test F1 Background: 0.974574 Test F1 Landslides: 0.000964 2 Train loss: 0.035093 Test loss: 0.028472 Train F1 Background: 0.976981 Train F1 Landslides: 0.0 Test F1 Background: 0.976234 Test F1 Landslides: 0.0 3 Train loss: 0.024767 Test loss: 0.021444 Train F1 Background: 0.976988 Train F1 Landslides: 0.0 Test F1 Background: 0.976321 Test F1 Landslides: 0.0 4 Train loss: 0.020033 Test loss: 0.017527 Train F1 Background: 0.976992 Train F1 Landslides: 0.000304 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 5 Train loss: 0.01705 Test loss: 0.01455 Train F1 Background: 0.976992 Train F1 Landslides: 0.000298 Test F1 Background: 0.976371 Test F1 Landslides: 0.004405 6 Train loss: 0.015254 Test loss: 0.013472 Train F1 Background: 0.977033 Train F1 Landslides: 0.004125 Test F1 Background: 0.976323 Test F1 Landslides: 1.3e-05 7 Train loss: 0.013854 Test loss: 0.012252 Train F1 Background: 0.977006 Train F1 Landslides: 0.001607 Test F1 Background: 0.976326 Test F1 Landslides: 0.000225 8 Train loss: 0.012923 Test loss: 0.012166 Train F1 Background: 0.977098 Train F1 Landslides: 0.010032 Test F1 Background: 0.976825 Test F1 Landslides: 0.04558 9 Train loss: 0.01227 Test loss: 0.011349 Train F1 Background: 0.977181 Train F1 Landslides: 0.017687 Test F1 Background: 0.976324 Test F1 Landslides: 2.7e-05 10 Train loss: 0.011675 Test loss: 0.010552 Train F1 Background: 0.977213 Train F1 Landslides: 0.020276 Test F1 Background: 0.976406 Test F1 Landslides: 0.007555 11 Train loss: 0.011205 Test loss: 0.010728 Train F1 Background: 0.977271 Train F1 Landslides: 0.025348 Test F1 Background: 0.977751 Test F1 Landslides: 0.12552 12 Train loss: 0.010848 Test loss: 0.009949 Train F1 Background: 0.977368 Train F1 Landslides: 0.034355 Test F1 Background: 0.9766 Test F1 Landslides: 0.024701 13 Train loss: 0.010632 Test loss: 0.010347 Train F1 Background: 0.977411 Train F1 Landslides: 0.038007 Test F1 Background: 0.976798 Test F1 Landslides: 0.050311 14 Train loss: 0.010451 Test loss: 0.009891 Train F1 Background: 0.977419 Train F1 Landslides: 0.038924 Test F1 Background: 0.977026 Test F1 Landslides: 0.069678 15 Train loss: 0.010174 Test loss: 0.009494 Train F1 Background: 0.977612 Train F1 Landslides: 0.055566 Test F1 Background: 0.976589 Test F1 Landslides: 0.023898 16 Train loss: 0.009703 Test loss: 0.009252 Train F1 Background: 0.977819 Train F1 Landslides: 0.072667 Test F1 Background: 0.977279 Test F1 Landslides: 0.087061 17 Train loss: 0.009566 Test loss: 0.00978 Train F1 Background: 0.978078 Train F1 Landslides: 0.094828 Test F1 Background: 0.976476 Test F1 Landslides: 0.014134 18 Train loss: 0.009428 Test loss: 0.0094 Train F1 Background: 0.978304 Train F1 Landslides: 0.112981 Test F1 Background: 0.977267 Test F1 Landslides: 0.094149 19 Train loss: 0.009356 Test loss: 0.009536 Train F1 Background: 0.978136 Train F1 Landslides: 0.099323 Test F1 Background: 0.97792 Test F1 Landslides: 0.151761 20 Train loss: 0.00922 Test loss: 0.009541 Train F1 Background: 0.978507 Train F1 Landslides: 0.128961 Test F1 Background: 0.976374 Test F1 Landslides: 0.00434 21 Train loss: 0.009144 Test loss: 0.008732 Train F1 Background: 0.978424 Train F1 Landslides: 0.122419 Test F1 Background: 0.977669 Test F1 Landslides: 0.115704 22 Train loss: 0.008827 Test loss: 0.008514 Train F1 Background: 0.978824 Train F1 Landslides: 0.153602 Test F1 Background: 0.977326 Test F1 Landslides: 0.085681 23 Train loss: 0.008784 Test loss: 0.00866 Train F1 Background: 0.978834 Train F1 Landslides: 0.154681 Test F1 Background: 0.977008 Test F1 Landslides: 0.059037 24 Train loss: 0.008908 Test loss: 0.009395 Train F1 Background: 0.978717 Train F1 Landslides: 0.145728 Test F1 Background: 0.976532 Test F1 Landslides: 0.018648 25 Train loss: 0.008975 Test loss: 0.010614 Train F1 Background: 0.978335 Train F1 Landslides: 0.115144 Test F1 Background: 0.977078 Test F1 Landslides: 0.102605 26 Train loss: 0.008646 Test loss: 0.008345 Train F1 Background: 0.979077 Train F1 Landslides: 0.172882 Test F1 Background: 0.977726 Test F1 Landslides: 0.119359 27 Train loss: 0.008495 Test loss: 0.008364 Train F1 Background: 0.979093 Train F1 Landslides: 0.173567 Test F1 Background: 0.977457 Test F1 Landslides: 0.096702 28 Train loss: 0.008459 Test loss: 0.009172 Train F1 Background: 0.979581 Train F1 Landslides: 0.209753 Test F1 Background: 0.977088 Test F1 Landslides: 0.070966 29 Train loss: 0.00829 Test loss: 0.00845 Train F1 Background: 0.979536 Train F1 Landslides: 0.206056 Test F1 Background: 0.977964 Test F1 Landslides: 0.138942 30 Train loss: 0.008319 Test loss: 0.109584 Train F1 Background: 0.979875 Train F1 Landslides: 0.232771 Test F1 Background: 0.976109 Test F1 Landslides: 0.126162 31 Train loss: 0.009677 Test loss: 0.009065 Train F1 Background: 0.977419 Train F1 Landslides: 0.039721 Test F1 Background: 0.977048 Test F1 Landslides: 0.063683 32 Train loss: 0.008968 Test loss: 0.009515 Train F1 Background: 0.977814 Train F1 Landslides: 0.072462 Test F1 Background: 0.976678 Test F1 Landslides: 0.03088 33 Train loss: 0.008534 Test loss: 0.009096 Train F1 Background: 0.978571 Train F1 Landslides: 0.133543 Test F1 Background: 0.976736 Test F1 Landslides: 0.04353 34 Train loss: 0.008331 Test loss: 0.008193 Train F1 Background: 0.978597 Train F1 Landslides: 0.135837 Test F1 Background: 0.977189 Test F1 Landslides: 0.074231 35 Train loss: 0.008095 Test loss: 0.008289 Train F1 Background: 0.979599 Train F1 Landslides: 0.210389 Test F1 Background: 0.977398 Test F1 Landslides: 0.093845 36 Train loss: 0.008311 Test loss: 0.008506 Train F1 Background: 0.979688 Train F1 Landslides: 0.218719 Test F1 Background: 0.977077 Test F1 Landslides: 0.064658 37 Train loss: 0.008753 Test loss: 0.008844 Train F1 Background: 0.978132 Train F1 Landslides: 0.09864 Test F1 Background: 0.976911 Test F1 Landslides: 0.050772 38 Train loss: 0.008165 Test loss: 0.009674 Train F1 Background: 0.979318 Train F1 Landslides: 0.189946 Test F1 Background: 0.976921 Test F1 Landslides: 0.07435 39 Train loss: 0.007944 Test loss: 0.008322 Train F1 Background: 0.979684 Train F1 Landslides: 0.216173 Test F1 Background: 0.978206 Test F1 Landslides: 0.159176 40 Train loss: 0.007816 Test loss: 0.017209 Train F1 Background: 0.980231 Train F1 Landslides: 0.253777 Test F1 Background: 0.978545 Test F1 Landslides: 0.183577 41 Train loss: 0.007809 Test loss: 0.008279 Train F1 Background: 0.980291 Train F1 Landslides: 0.258623 Test F1 Background: 0.978061 Test F1 Landslides: 0.144986 42 Train loss: 0.007625 Test loss: 0.008198 Train F1 Background: 0.980512 Train F1 Landslides: 0.272648 Test F1 Background: 0.978086 Test F1 Landslides: 0.15158 43 Train loss: 0.007579 Test loss: 0.008293 Train F1 Background: 0.980716 Train F1 Landslides: 0.286216 Test F1 Background: 0.979077 Test F1 Landslides: 0.22783 44 Train loss: 0.007497 Test loss: 0.008709 Train F1 Background: 0.980866 Train F1 Landslides: 0.295957 Test F1 Background: 0.977868 Test F1 Landslides: 0.131905 45 Train loss: 0.007342 Test loss: 0.008269 Train F1 Background: 0.98116 Train F1 Landslides: 0.314201 Test F1 Background: 0.978898 Test F1 Landslides: 0.214934 46 Train loss: 0.007292 Test loss: 0.008465 Train F1 Background: 0.981419 Train F1 Landslides: 0.33103 Test F1 Background: 0.97746 Test F1 Landslides: 0.09716 47 Train loss: 0.007652 Test loss: 0.008814 Train F1 Background: 0.980605 Train F1 Landslides: 0.278854 Test F1 Background: 0.979665 Test F1 Landslides: 0.277261 48 Train loss: 0.007405 Test loss: 0.008092 Train F1 Background: 0.981045 Train F1 Landslides: 0.306982 Test F1 Background: 0.978784 Test F1 Landslides: 0.202805 49 Train loss: 0.007205 Test loss: 0.008141 Train F1 Background: 0.981469 Train F1 Landslides: 0.333502 Test F1 Background: 0.978426 Test F1 Landslides: 0.177242 50 Train loss: 0.007023 Test loss: 0.008166 Train F1 Background: 0.981581 Train F1 Landslides: 0.339738 Test F1 Background: 0.979198 Test F1 Landslides: 0.235642 51 Train loss: 0.006925 Test loss: 0.008404 Train F1 Background: 0.981933 Train F1 Landslides: 0.360721 Test F1 Background: 0.979297 Test F1 Landslides: 0.24415 52 Train loss: 0.006814 Test loss: 0.008283 Train F1 Background: 0.982118 Train F1 Landslides: 0.371702 Test F1 Background: 0.978993 Test F1 Landslides: 0.221096 53 Train loss: 0.006779 Test loss: 0.009086 Train F1 Background: 0.98219 Train F1 Landslides: 0.375983 Test F1 Background: 0.980259 Test F1 Landslides: 0.318839 54 Train loss: 0.006742 Test loss: 0.008212 Train F1 Background: 0.982338 Train F1 Landslides: 0.384537 Test F1 Background: 0.978576 Test F1 Landslides: 0.187675 55 Train loss: 0.006687 Test loss: 0.008367 Train F1 Background: 0.982349 Train F1 Landslides: 0.385093 Test F1 Background: 0.979111 Test F1 Landslides: 0.229233 56 Train loss: 0.00676 Test loss: 0.008698 Train F1 Background: 0.982427 Train F1 Landslides: 0.389933 Test F1 Background: 0.979295 Test F1 Landslides: 0.248258 57 Train loss: 0.006678 Test loss: 0.008486 Train F1 Background: 0.982366 Train F1 Landslides: 0.386279 Test F1 Background: 0.979603 Test F1 Landslides: 0.265012 58 Train loss: 0.006546 Test loss: 0.008382 Train F1 Background: 0.982674 Train F1 Landslides: 0.403517 Test F1 Background: 0.978966 Test F1 Landslides: 0.217715 59 Train loss: 0.006472 Test loss: 0.008629 Train F1 Background: 0.982717 Train F1 Landslides: 0.405801 Test F1 Background: 0.979552 Test F1 Landslides: 0.2641 Validation Loss: 0.008161 Val F1 Background: 0.982731 Val F1 Landslides: 0.295069
Run history:
| Test F1 Background | ▁▇▇▇▇▇▇▇▇▇▇▇▇█▇▇▇▇▇▇▇▇▇▇▇▇█████▇████████ |
| Test F1 Landslides | ▁▁▁▁▁▁▁▁▂▂▂▃▃▅▄▃▁▄▄▃▄▃▂▃▃▂▅▆▅▇▇▄▆▆▇▇▆▇██ |
| Test loss | █▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▅▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▄▄▄▄▄▄▄▄▄▄▄▅▄▅▅▅▅▅▆▆▄▅▅▆▄▆▆▆▆▇▇▇▇▇█████ |
| Train F1 Landslides | ▁▁▁▁▁▁▁▁▂▂▂▂▃▃▃▄▄▃▄▅▅▂▃▃▅▃▅▅▆▆▆▇▆▇▇▇████ |
| Train loss | █▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97955 |
| Test F1 Landslides | 0.2641 |
| Test loss | 0.00863 |
| Train F1 Background | 0.98272 |
| Train F1 Landslides | 0.4058 |
| Train loss | 0.00647 |
| Val F1 Background | 0.98273 |
| Val F1 Landslides | 0.29507 |
| Val Loss | 0.00816 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_170405-odqzy5mi/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Color Jitter penalty FCN¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Regularize ColorJitter FCN",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [80]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_regularize_colorjitter_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "color_jitter")
torch.save(model.state_dict(), "weights/model_regularize_color_jitter_fcn.pth")
wandb.agent(sweep_regularize_colorjitter_fcn, function=main)
wandb.finish()
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
Create sweep with ID: t5dl3709 Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/t5dl3709
wandb: Agent Starting Run: 8wogd44m with config: wandb: batchsize: 64 wandb: epochs: 80 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving. wandb: Currently logged in as: patschue. Use `wandb login --relogin` to force relogin
/users/pschrman/DLBS_landslides/wandb/run-20231017_164912-8wogd44m
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/t5dl3709
0 Train loss: 0.320648 Test loss: 0.05781 Train F1 Background: 0.911953 Train F1 Landslides: 0.064364 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 1 Train loss: 0.054627 Test loss: 0.031616 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.027767 Test loss: 0.021893 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 3 Train loss: 0.020727 Test loss: 0.017818 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 4 Train loss: 0.017561 Test loss: 0.015556 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 5 Train loss: 0.015522 Test loss: 0.014173 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 6 Train loss: 0.014184 Test loss: 0.013092 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 7 Train loss: 0.013252 Test loss: 0.012079 Train F1 Background: 0.97699 Train F1 Landslides: 0.00012 Test F1 Background: 0.976325 Test F1 Landslides: 0.000159 8 Train loss: 0.012464 Test loss: 0.012233 Train F1 Background: 0.977029 Train F1 Landslides: 0.003624 Test F1 Background: 0.976515 Test F1 Landslides: 0.018093 9 Train loss: 0.01185 Test loss: 0.011429 Train F1 Background: 0.977066 Train F1 Landslides: 0.007078 Test F1 Background: 0.976487 Test F1 Landslides: 0.016033 10 Train loss: 0.011452 Test loss: 0.011074 Train F1 Background: 0.97713 Train F1 Landslides: 0.013216 Test F1 Background: 0.976336 Test F1 Landslides: 0.001775 11 Train loss: 0.010991 Test loss: 0.010531 Train F1 Background: 0.977337 Train F1 Landslides: 0.031699 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 12 Train loss: 0.010691 Test loss: 0.01023 Train F1 Background: 0.977178 Train F1 Landslides: 0.01696 Test F1 Background: 0.976332 Test F1 Landslides: 0.001206 13 Train loss: 0.0104 Test loss: 0.009982 Train F1 Background: 0.977283 Train F1 Landslides: 0.026255 Test F1 Background: 0.976583 Test F1 Landslides: 0.027205 14 Train loss: 0.009983 Test loss: 0.009699 Train F1 Background: 0.977592 Train F1 Landslides: 0.053027 Test F1 Background: 0.976641 Test F1 Landslides: 0.031516 15 Train loss: 0.009884 Test loss: 0.009614 Train F1 Background: 0.977817 Train F1 Landslides: 0.072126 Test F1 Background: 0.976355 Test F1 Landslides: 0.003137 16 Train loss: 0.009661 Test loss: 0.00948 Train F1 Background: 0.977954 Train F1 Landslides: 0.083793 Test F1 Background: 0.976748 Test F1 Landslides: 0.042225 17 Train loss: 0.009458 Test loss: 0.009405 Train F1 Background: 0.978056 Train F1 Landslides: 0.092017 Test F1 Background: 0.976889 Test F1 Landslides: 0.050629 18 Train loss: 0.009287 Test loss: 0.009999 Train F1 Background: 0.978277 Train F1 Landslides: 0.109462 Test F1 Background: 0.977843 Test F1 Landslides: 0.145448 19 Train loss: 0.009121 Test loss: 0.009309 Train F1 Background: 0.978497 Train F1 Landslides: 0.127799 Test F1 Background: 0.976697 Test F1 Landslides: 0.034049 20 Train loss: 0.009001 Test loss: 0.009446 Train F1 Background: 0.978793 Train F1 Landslides: 0.150518 Test F1 Background: 0.976524 Test F1 Landslides: 0.017687 21 Train loss: 0.008747 Test loss: 0.009105 Train F1 Background: 0.97907 Train F1 Landslides: 0.171168 Test F1 Background: 0.977544 Test F1 Landslides: 0.109028 22 Train loss: 0.008522 Test loss: 0.009068 Train F1 Background: 0.979601 Train F1 Landslides: 0.209961 Test F1 Background: 0.976848 Test F1 Landslides: 0.046796 23 Train loss: 0.008462 Test loss: 0.009025 Train F1 Background: 0.97974 Train F1 Landslides: 0.219793 Test F1 Background: 0.977381 Test F1 Landslides: 0.091994 24 Train loss: 0.008179 Test loss: 0.009058 Train F1 Background: 0.980165 Train F1 Landslides: 0.248841 Test F1 Background: 0.977344 Test F1 Landslides: 0.092515 25 Train loss: 0.008094 Test loss: 0.009072 Train F1 Background: 0.980434 Train F1 Landslides: 0.267052 Test F1 Background: 0.97766 Test F1 Landslides: 0.120519 26 Train loss: 0.007971 Test loss: 0.009162 Train F1 Background: 0.980702 Train F1 Landslides: 0.285515 Test F1 Background: 0.97715 Test F1 Landslides: 0.074398 27 Train loss: 0.007935 Test loss: 0.010043 Train F1 Background: 0.980417 Train F1 Landslides: 0.265793 Test F1 Background: 0.978402 Test F1 Landslides: 0.195332 28 Train loss: 0.007775 Test loss: 0.00892 Train F1 Background: 0.981028 Train F1 Landslides: 0.306125 Test F1 Background: 0.978104 Test F1 Landslides: 0.153831 29 Train loss: 0.007535 Test loss: 0.009416 Train F1 Background: 0.981319 Train F1 Landslides: 0.323713 Test F1 Background: 0.976726 Test F1 Landslides: 0.036327 30 Train loss: 0.007444 Test loss: 0.009031 Train F1 Background: 0.981475 Train F1 Landslides: 0.333317 Test F1 Background: 0.977769 Test F1 Landslides: 0.12915 31 Train loss: 0.007314 Test loss: 0.009242 Train F1 Background: 0.981758 Train F1 Landslides: 0.350725 Test F1 Background: 0.977766 Test F1 Landslides: 0.126537 32 Train loss: 0.007227 Test loss: 0.009567 Train F1 Background: 0.981891 Train F1 Landslides: 0.358401 Test F1 Background: 0.97828 Test F1 Landslides: 0.176293 33 Train loss: 0.007116 Test loss: 0.009336 Train F1 Background: 0.982118 Train F1 Landslides: 0.371849 Test F1 Background: 0.977894 Test F1 Landslides: 0.139759 34 Train loss: 0.006995 Test loss: 0.009786 Train F1 Background: 0.982405 Train F1 Landslides: 0.388322 Test F1 Background: 0.978655 Test F1 Landslides: 0.202723 35 Train loss: 0.006938 Test loss: 0.009811 Train F1 Background: 0.982461 Train F1 Landslides: 0.391667 Test F1 Background: 0.978746 Test F1 Landslides: 0.216656 36 Train loss: 0.00675 Test loss: 0.009331 Train F1 Background: 0.982746 Train F1 Landslides: 0.407336 Test F1 Background: 0.978315 Test F1 Landslides: 0.173453 37 Train loss: 0.006654 Test loss: 0.009355 Train F1 Background: 0.982968 Train F1 Landslides: 0.419595 Test F1 Background: 0.977915 Test F1 Landslides: 0.142009 38 Train loss: 0.006567 Test loss: 0.009594 Train F1 Background: 0.983079 Train F1 Landslides: 0.425473 Test F1 Background: 0.978619 Test F1 Landslides: 0.202333 39 Train loss: 0.006483 Test loss: 0.009709 Train F1 Background: 0.983283 Train F1 Landslides: 0.436786 Test F1 Background: 0.978963 Test F1 Landslides: 0.227191 40 Train loss: 0.006448 Test loss: 0.009359 Train F1 Background: 0.98321 Train F1 Landslides: 0.432687 Test F1 Background: 0.978555 Test F1 Landslides: 0.191508 41 Train loss: 0.006286 Test loss: 0.009891 Train F1 Background: 0.983538 Train F1 Landslides: 0.450145 Test F1 Background: 0.978796 Test F1 Landslides: 0.217923 42 Train loss: 0.006252 Test loss: 0.009946 Train F1 Background: 0.983617 Train F1 Landslides: 0.454564 Test F1 Background: 0.977905 Test F1 Landslides: 0.141165 43 Train loss: 0.006336 Test loss: 0.010315 Train F1 Background: 0.983374 Train F1 Landslides: 0.441592 Test F1 Background: 0.979239 Test F1 Landslides: 0.25451 44 Train loss: 0.006152 Test loss: 0.009577 Train F1 Background: 0.983769 Train F1 Landslides: 0.462295 Test F1 Background: 0.978196 Test F1 Landslides: 0.167305 45 Train loss: 0.006027 Test loss: 0.010115 Train F1 Background: 0.98389 Train F1 Landslides: 0.468438 Test F1 Background: 0.97868 Test F1 Landslides: 0.212427 46 Train loss: 0.006015 Test loss: 0.009931 Train F1 Background: 0.983932 Train F1 Landslides: 0.470476 Test F1 Background: 0.978988 Test F1 Landslides: 0.229359 47 Train loss: 0.005971 Test loss: 0.0101 Train F1 Background: 0.984109 Train F1 Landslides: 0.47964 Test F1 Background: 0.9788 Test F1 Landslides: 0.216978 48 Train loss: 0.005874 Test loss: 0.010325 Train F1 Background: 0.984217 Train F1 Landslides: 0.484923 Test F1 Background: 0.979136 Test F1 Landslides: 0.245278 49 Train loss: 0.00575 Test loss: 0.01059 Train F1 Background: 0.984419 Train F1 Landslides: 0.495005 Test F1 Background: 0.979058 Test F1 Landslides: 0.239686 50 Train loss: 0.005706 Test loss: 0.011993 Train F1 Background: 0.98438 Train F1 Landslides: 0.492986 Test F1 Background: 0.979562 Test F1 Landslides: 0.290584 51 Train loss: 0.005703 Test loss: 0.009929 Train F1 Background: 0.984493 Train F1 Landslides: 0.498743 Test F1 Background: 0.978477 Test F1 Landslides: 0.188583 52 Train loss: 0.005659 Test loss: 0.011132 Train F1 Background: 0.984525 Train F1 Landslides: 0.500194 Test F1 Background: 0.979367 Test F1 Landslides: 0.267912 53 Train loss: 0.005538 Test loss: 0.009955 Train F1 Background: 0.984778 Train F1 Landslides: 0.512622 Test F1 Background: 0.97841 Test F1 Landslides: 0.184215 54 Train loss: 0.005567 Test loss: 0.010265 Train F1 Background: 0.984725 Train F1 Landslides: 0.509984 Test F1 Background: 0.978507 Test F1 Landslides: 0.19395 55 Train loss: 0.005488 Test loss: 0.010508 Train F1 Background: 0.984815 Train F1 Landslides: 0.514271 Test F1 Background: 0.979002 Test F1 Landslides: 0.235706 56 Train loss: 0.005492 Test loss: 0.011113 Train F1 Background: 0.984865 Train F1 Landslides: 0.516833 Test F1 Background: 0.979646 Test F1 Landslides: 0.291267 57 Train loss: 0.005434 Test loss: 0.010346 Train F1 Background: 0.984931 Train F1 Landslides: 0.51998 Test F1 Background: 0.97895 Test F1 Landslides: 0.231296 58 Train loss: 0.005356 Test loss: 0.010543 Train F1 Background: 0.985117 Train F1 Landslides: 0.528776 Test F1 Background: 0.978754 Test F1 Landslides: 0.21472 59 Train loss: 0.005472 Test loss: 0.010551 Train F1 Background: 0.984932 Train F1 Landslides: 0.520057 Test F1 Background: 0.978182 Test F1 Landslides: 0.16752 60 Train loss: 0.005457 Test loss: 0.010157 Train F1 Background: 0.984954 Train F1 Landslides: 0.521194 Test F1 Background: 0.978499 Test F1 Landslides: 0.195288 61 Train loss: 0.005382 Test loss: 0.010793 Train F1 Background: 0.985059 Train F1 Landslides: 0.526096 Test F1 Background: 0.978802 Test F1 Landslides: 0.220317 62 Train loss: 0.005288 Test loss: 0.011507 Train F1 Background: 0.985241 Train F1 Landslides: 0.534597 Test F1 Background: 0.978947 Test F1 Landslides: 0.237254 63 Train loss: 0.005234 Test loss: 0.010053 Train F1 Background: 0.985283 Train F1 Landslides: 0.536549 Test F1 Background: 0.978599 Test F1 Landslides: 0.201891 64 Train loss: 0.005204 Test loss: 0.01101 Train F1 Background: 0.985331 Train F1 Landslides: 0.538747 Test F1 Background: 0.979289 Test F1 Landslides: 0.262337 65 Train loss: 0.005174 Test loss: 0.010883 Train F1 Background: 0.985465 Train F1 Landslides: 0.544997 Test F1 Background: 0.979151 Test F1 Landslides: 0.248446 66 Train loss: 0.005159 Test loss: 0.011915 Train F1 Background: 0.985531 Train F1 Landslides: 0.547994 Test F1 Background: 0.97939 Test F1 Landslides: 0.276807 67 Train loss: 0.005091 Test loss: 0.011325 Train F1 Background: 0.985607 Train F1 Landslides: 0.551476 Test F1 Background: 0.979134 Test F1 Landslides: 0.250399 68 Train loss: 0.00507 Test loss: 0.012089 Train F1 Background: 0.98565 Train F1 Landslides: 0.553441 Test F1 Background: 0.979102 Test F1 Landslides: 0.255539 69 Train loss: 0.005079 Test loss: 0.012024 Train F1 Background: 0.9856 Train F1 Landslides: 0.551228 Test F1 Background: 0.979344 Test F1 Landslides: 0.272335 70 Train loss: 0.005034 Test loss: 0.01075 Train F1 Background: 0.985737 Train F1 Landslides: 0.557398 Test F1 Background: 0.978821 Test F1 Landslides: 0.223221 71 Train loss: 0.005021 Test loss: 0.011208 Train F1 Background: 0.985763 Train F1 Landslides: 0.558574 Test F1 Background: 0.979104 Test F1 Landslides: 0.247269 72 Train loss: 0.005008 Test loss: 0.010605 Train F1 Background: 0.985814 Train F1 Landslides: 0.560936 Test F1 Background: 0.978544 Test F1 Landslides: 0.199952 73 Train loss: 0.004982 Test loss: 0.012462 Train F1 Background: 0.985794 Train F1 Landslides: 0.559962 Test F1 Background: 0.979557 Test F1 Landslides: 0.290328 74 Train loss: 0.004986 Test loss: 0.011492 Train F1 Background: 0.985875 Train F1 Landslides: 0.563619 Test F1 Background: 0.979194 Test F1 Landslides: 0.257273 75 Train loss: 0.004986 Test loss: 0.011839 Train F1 Background: 0.985866 Train F1 Landslides: 0.563397 Test F1 Background: 0.9793 Test F1 Landslides: 0.2734 76 Train loss: 0.005009 Test loss: 0.011522 Train F1 Background: 0.98584 Train F1 Landslides: 0.562109 Test F1 Background: 0.979007 Test F1 Landslides: 0.249876 77 Train loss: 0.005014 Test loss: 0.011548 Train F1 Background: 0.985858 Train F1 Landslides: 0.563035 Test F1 Background: 0.978874 Test F1 Landslides: 0.233506 78 Train loss: 0.005001 Test loss: 0.011046 Train F1 Background: 0.985863 Train F1 Landslides: 0.563256 Test F1 Background: 0.97903 Test F1 Landslides: 0.242837 79 Train loss: 0.004955 Test loss: 0.01141 Train F1 Background: 0.985966 Train F1 Landslides: 0.567794 Test F1 Background: 0.979061 Test F1 Landslides: 0.245049 Validation Loss: 0.010252 Val F1 Background: 0.982153 Val F1 Landslides: 0.265439
Run history:
| Test F1 Background | ▁▁▁▁▁▁▁▂▂▄▁▂▃▃▅▄▅▆▅▆▆▄▅▇▇█▇▆█▆▆▇▇▇▇▆▆▇▇▇ |
| Test F1 Landslides | ▁▁▁▁▁▁▁▂▂▄▁▂▃▃▅▄▅▆▅▆▆▄▅▇▇█▇▆█▆▆▇▇█▇▆▆▇▇▇ |
| Test loss | █▃▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▇▇▇▇▇▇▇▇▇▇▇▇███████████████████████████ |
| Train F1 Landslides | ▂▁▁▁▁▁▁▂▂▂▃▄▄▅▅▅▅▆▆▆▆▇▇▇▇▇▇▇▇█▇█████████ |
| Train loss | █▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97906 |
| Test F1 Landslides | 0.24505 |
| Test loss | 0.01141 |
| Train F1 Background | 0.98597 |
| Train F1 Landslides | 0.56779 |
| Train loss | 0.00495 |
| Val F1 Background | 0.98215 |
| Val F1 Landslides | 0.26544 |
| Val Loss | 0.01025 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231017_164912-8wogd44m/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Color Jitter penalty Deeplabv3¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Regularize ColorJitter Deeplabv3",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [60]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_regularize_colorjitter = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "color_jitter")
torch.save(model.state_dict(), "weights/model_regularize_l2_deeplab.pth")
wandb.agent(sweep_regularize_colorjitter, function=main)
wandb.finish()
Create sweep with ID: nusthf0q Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/nusthf0q
wandb: Agent Starting Run: stleyhlz with config: wandb: batchsize: 64 wandb: epochs: 60 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231017_174807-stleyhlz
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/nusthf0q
0 Train loss: 0.276416 Test loss: 0.071228 Train F1 Background: 0.964941 Train F1 Landslides: 0.041004 Test F1 Background: 0.97587 Test F1 Landslides: 0.0 1 Train loss: 0.071656 Test loss: 0.05443 Train F1 Background: 0.97695 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.038066 Test loss: 0.027843 Train F1 Background: 0.976987 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 3 Train loss: 0.026698 Test loss: 0.021487 Train F1 Background: 0.976988 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 4 Train loss: 0.021239 Test loss: 0.01791 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 5 Train loss: 0.018039 Test loss: 0.015815 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 6 Train loss: 0.015998 Test loss: 0.014659 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 7 Train loss: 0.01462 Test loss: 0.013345 Train F1 Background: 0.977 Train F1 Landslides: 0.001055 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 8 Train loss: 0.013663 Test loss: 0.014872 Train F1 Background: 0.977005 Train F1 Landslides: 0.001529 Test F1 Background: 0.976814 Test F1 Landslides: 0.072358 9 Train loss: 0.012863 Test loss: 0.011885 Train F1 Background: 0.977059 Train F1 Landslides: 0.006836 Test F1 Background: 0.976327 Test F1 Landslides: 0.000292 10 Train loss: 0.012292 Test loss: 0.011645 Train F1 Background: 0.977044 Train F1 Landslides: 0.005195 Test F1 Background: 0.976331 Test F1 Landslides: 0.000967 11 Train loss: 0.011915 Test loss: 0.011343 Train F1 Background: 0.977125 Train F1 Landslides: 0.012714 Test F1 Background: 0.97686 Test F1 Landslides: 0.051795 12 Train loss: 0.011561 Test loss: 0.01057 Train F1 Background: 0.977069 Train F1 Landslides: 0.007319 Test F1 Background: 0.976449 Test F1 Landslides: 0.011714 13 Train loss: 0.011026 Test loss: 0.01028 Train F1 Background: 0.977298 Train F1 Landslides: 0.028212 Test F1 Background: 0.976449 Test F1 Landslides: 0.011923 14 Train loss: 0.010665 Test loss: 0.009961 Train F1 Background: 0.977438 Train F1 Landslides: 0.040021 Test F1 Background: 0.976563 Test F1 Landslides: 0.021734 15 Train loss: 0.01048 Test loss: 0.00967 Train F1 Background: 0.97762 Train F1 Landslides: 0.055819 Test F1 Background: 0.97676 Test F1 Landslides: 0.039007 16 Train loss: 0.01028 Test loss: 0.009779 Train F1 Background: 0.977508 Train F1 Landslides: 0.046713 Test F1 Background: 0.976464 Test F1 Landslides: 0.013128 17 Train loss: 0.009936 Test loss: 0.009494 Train F1 Background: 0.977779 Train F1 Landslides: 0.06901 Test F1 Background: 0.976892 Test F1 Landslides: 0.050427 18 Train loss: 0.009763 Test loss: 0.009796 Train F1 Background: 0.978123 Train F1 Landslides: 0.098055 Test F1 Background: 0.977843 Test F1 Landslides: 0.1352 19 Train loss: 0.009808 Test loss: 0.009348 Train F1 Background: 0.978065 Train F1 Landslides: 0.093274 Test F1 Background: 0.976901 Test F1 Landslides: 0.051904 20 Train loss: 0.009513 Test loss: 0.009296 Train F1 Background: 0.978128 Train F1 Landslides: 0.098103 Test F1 Background: 0.976724 Test F1 Landslides: 0.035734 21 Train loss: 0.009233 Test loss: 0.009093 Train F1 Background: 0.9786 Train F1 Landslides: 0.135838 Test F1 Background: 0.9771 Test F1 Landslides: 0.067809 22 Train loss: 0.009089 Test loss: 0.009421 Train F1 Background: 0.978864 Train F1 Landslides: 0.156576 Test F1 Background: 0.976552 Test F1 Landslides: 0.020685 23 Train loss: 0.009346 Test loss: 0.00912 Train F1 Background: 0.978566 Train F1 Landslides: 0.133938 Test F1 Background: 0.977582 Test F1 Landslides: 0.108057 24 Train loss: 0.008932 Test loss: 0.00938 Train F1 Background: 0.978632 Train F1 Landslides: 0.138179 Test F1 Background: 0.977791 Test F1 Landslides: 0.129249 25 Train loss: 0.008755 Test loss: 0.009149 Train F1 Background: 0.979082 Train F1 Landslides: 0.172307 Test F1 Background: 0.977991 Test F1 Landslides: 0.146602 26 Train loss: 0.008599 Test loss: 0.009161 Train F1 Background: 0.97972 Train F1 Landslides: 0.219043 Test F1 Background: 0.977097 Test F1 Landslides: 0.068841 27 Train loss: 0.008435 Test loss: 0.009092 Train F1 Background: 0.979931 Train F1 Landslides: 0.233688 Test F1 Background: 0.977552 Test F1 Landslides: 0.108098 28 Train loss: 0.008493 Test loss: 0.009058 Train F1 Background: 0.979671 Train F1 Landslides: 0.214839 Test F1 Background: 0.977367 Test F1 Landslides: 0.093731 29 Train loss: 0.008189 Test loss: 0.008701 Train F1 Background: 0.980282 Train F1 Landslides: 0.257879 Test F1 Background: 0.977914 Test F1 Landslides: 0.135281 30 Train loss: 0.008066 Test loss: 0.00975 Train F1 Background: 0.980578 Train F1 Landslides: 0.277106 Test F1 Background: 0.978164 Test F1 Landslides: 0.166331 31 Train loss: 0.007972 Test loss: 0.009643 Train F1 Background: 0.980897 Train F1 Landslides: 0.297918 Test F1 Background: 0.978684 Test F1 Landslides: 0.209946 32 Train loss: 0.007868 Test loss: 0.009138 Train F1 Background: 0.980894 Train F1 Landslides: 0.297405 Test F1 Background: 0.978051 Test F1 Landslides: 0.153492 33 Train loss: 0.007807 Test loss: 0.009145 Train F1 Background: 0.981008 Train F1 Landslides: 0.304667 Test F1 Background: 0.978624 Test F1 Landslides: 0.20033 34 Train loss: 0.007607 Test loss: 0.008837 Train F1 Background: 0.981329 Train F1 Landslides: 0.324832 Test F1 Background: 0.977552 Test F1 Landslides: 0.107428 35 Train loss: 0.007475 Test loss: 0.009319 Train F1 Background: 0.981548 Train F1 Landslides: 0.338146 Test F1 Background: 0.978708 Test F1 Landslides: 0.210759 36 Train loss: 0.007411 Test loss: 0.009438 Train F1 Background: 0.981855 Train F1 Landslides: 0.357007 Test F1 Background: 0.977994 Test F1 Landslides: 0.15123 37 Train loss: 0.007336 Test loss: 0.009554 Train F1 Background: 0.981872 Train F1 Landslides: 0.357453 Test F1 Background: 0.977861 Test F1 Landslides: 0.142548 38 Train loss: 0.007264 Test loss: 0.009074 Train F1 Background: 0.981966 Train F1 Landslides: 0.363495 Test F1 Background: 0.977101 Test F1 Landslides: 0.068613 39 Train loss: 0.007163 Test loss: 0.009384 Train F1 Background: 0.982084 Train F1 Landslides: 0.36997 Test F1 Background: 0.978271 Test F1 Landslides: 0.175466 40 Train loss: 0.007051 Test loss: 0.009069 Train F1 Background: 0.982238 Train F1 Landslides: 0.378693 Test F1 Background: 0.978075 Test F1 Landslides: 0.155844 41 Train loss: 0.006992 Test loss: 0.009129 Train F1 Background: 0.98241 Train F1 Landslides: 0.388602 Test F1 Background: 0.978656 Test F1 Landslides: 0.203558 42 Train loss: 0.006886 Test loss: 0.009123 Train F1 Background: 0.982469 Train F1 Landslides: 0.39174 Test F1 Background: 0.978433 Test F1 Landslides: 0.185989 43 Train loss: 0.006809 Test loss: 0.009202 Train F1 Background: 0.982666 Train F1 Landslides: 0.403043 Test F1 Background: 0.978611 Test F1 Landslides: 0.204647 44 Train loss: 0.006708 Test loss: 0.009141 Train F1 Background: 0.982796 Train F1 Landslides: 0.410178 Test F1 Background: 0.978047 Test F1 Landslides: 0.154065 45 Train loss: 0.006722 Test loss: 0.009081 Train F1 Background: 0.982801 Train F1 Landslides: 0.410464 Test F1 Background: 0.97873 Test F1 Landslides: 0.206299 46 Train loss: 0.006487 Test loss: 0.009144 Train F1 Background: 0.983075 Train F1 Landslides: 0.425369 Test F1 Background: 0.978 Test F1 Landslides: 0.150201 47 Train loss: 0.006477 Test loss: 0.009245 Train F1 Background: 0.983113 Train F1 Landslides: 0.427511 Test F1 Background: 0.978103 Test F1 Landslides: 0.158526 48 Train loss: 0.006477 Test loss: 0.010481 Train F1 Background: 0.983116 Train F1 Landslides: 0.427537 Test F1 Background: 0.978987 Test F1 Landslides: 0.245028 49 Train loss: 0.006374 Test loss: 0.009812 Train F1 Background: 0.983293 Train F1 Landslides: 0.43724 Test F1 Background: 0.978389 Test F1 Landslides: 0.186424 50 Train loss: 0.006235 Test loss: 0.009981 Train F1 Background: 0.98343 Train F1 Landslides: 0.444419 Test F1 Background: 0.978626 Test F1 Landslides: 0.204653 51 Train loss: 0.006306 Test loss: 0.009915 Train F1 Background: 0.983346 Train F1 Landslides: 0.439931 Test F1 Background: 0.978703 Test F1 Landslides: 0.212237 52 Train loss: 0.006357 Test loss: 0.009616 Train F1 Background: 0.983371 Train F1 Landslides: 0.441421 Test F1 Background: 0.978887 Test F1 Landslides: 0.221321 53 Train loss: 0.006246 Test loss: 0.009533 Train F1 Background: 0.983528 Train F1 Landslides: 0.449839 Test F1 Background: 0.9785 Test F1 Landslides: 0.192148 54 Train loss: 0.006134 Test loss: 0.01032 Train F1 Background: 0.983689 Train F1 Landslides: 0.458099 Test F1 Background: 0.978413 Test F1 Landslides: 0.18999 55 Train loss: 0.005983 Test loss: 0.010465 Train F1 Background: 0.983842 Train F1 Landslides: 0.465899 Test F1 Background: 0.979077 Test F1 Landslides: 0.240673 56 Train loss: 0.005915 Test loss: 0.010201 Train F1 Background: 0.983928 Train F1 Landslides: 0.470299 Test F1 Background: 0.978789 Test F1 Landslides: 0.218276 57 Train loss: 0.00586 Test loss: 0.010007 Train F1 Background: 0.984017 Train F1 Landslides: 0.474808 Test F1 Background: 0.978629 Test F1 Landslides: 0.203966 58 Train loss: 0.005825 Test loss: 0.010281 Train F1 Background: 0.984114 Train F1 Landslides: 0.479791 Test F1 Background: 0.978218 Test F1 Landslides: 0.170203 59 Train loss: 0.005831 Test loss: 0.011292 Train F1 Background: 0.984113 Train F1 Landslides: 0.479773 Test F1 Background: 0.979447 Test F1 Landslides: 0.276294 Validation Loss: 0.010788 Val F1 Background: 0.982751 Val F1 Landslides: 0.317588
Run history:
| Test F1 Background | ▁▂▂▂▂▂▂▂▂▂▃▂▅▃▃▂▅▅▄▄▅▇▆▄▅▅▆▅▆▆▇▅▇▆▇▇▆▇▆█ |
| Test F1 Landslides | ▁▁▁▁▁▁▁▁▁▁▂▁▄▂▃▂▄▅▄▃▅▆▆▄▅▅▅▅▆▆▆▅▇▆▆▇▆▇▆█ |
| Test loss | █▆▂▂▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▅▅▅▅▅▅▅▅▆▆▆▆▆▆▆▆▆▆▆▇▇▇▇▇▇▇▇▇▇██████████ |
| Train F1 Landslides | ▂▁▁▁▁▁▁▁▁▁▂▂▂▂▃▃▃▄▄▄▅▅▅▆▆▆▆▇▇▇▇▇▇▇▇▇████ |
| Train loss | █▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97945 |
| Test F1 Landslides | 0.27629 |
| Test loss | 0.01129 |
| Train F1 Background | 0.98411 |
| Train F1 Landslides | 0.47977 |
| Train loss | 0.00583 |
| Val F1 Background | 0.98275 |
| Val F1 Landslides | 0.31759 |
| Val Loss | 0.01079 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231017_174807-stleyhlz/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Tune FCN",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [80]},
"learn_rate": {"values": [1e-3, 5e-4]},
"batchsize": {"values": [32]},
"l2_penalty": {"values": [0]},
}
}
sweep_tune_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "to_tensor")
filename = "weights/model_tuning_fcn_lr{}_bs{}.pth".format(config.learn_rate, config.batchsize)
torch.save(model.state_dict(), filename)
wandb.agent(sweep_tune_fcn, function=main)
wandb.finish()
Create sweep with ID: 3dd93fgd Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/3dd93fgd
wandb: Agent Starting Run: ey5jzz1q with config: wandb: batchsize: 32 wandb: epochs: 80 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_213344-ey5jzz1q
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/3dd93fgd
0 Train loss: 0.157427 Test loss: 0.030113 Train F1 Background: 0.954864 Train F1 Landslides: 0.048515 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 1 Train loss: 0.021208 Test loss: 0.016517 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.014811 Test loss: 0.013454 Train F1 Background: 0.97699 Train F1 Landslides: 0.000161 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 3 Train loss: 0.012508 Test loss: 0.012261 Train F1 Background: 0.977008 Train F1 Landslides: 0.00175 Test F1 Background: 0.976548 Test F1 Landslides: 0.019472 4 Train loss: 0.011304 Test loss: 0.011088 Train F1 Background: 0.977063 Train F1 Landslides: 0.00666 Test F1 Background: 0.976349 Test F1 Landslides: 0.002252 5 Train loss: 0.010643 Test loss: 0.010247 Train F1 Background: 0.977258 Train F1 Landslides: 0.024452 Test F1 Background: 0.976495 Test F1 Landslides: 0.015002 6 Train loss: 0.009959 Test loss: 0.010314 Train F1 Background: 0.977588 Train F1 Landslides: 0.053355 Test F1 Background: 0.977661 Test F1 Landslides: 0.121354 7 Train loss: 0.009569 Test loss: 0.011038 Train F1 Background: 0.97785 Train F1 Landslides: 0.075212 Test F1 Background: 0.977646 Test F1 Landslides: 0.1274 8 Train loss: 0.009193 Test loss: 0.009422 Train F1 Background: 0.978259 Train F1 Landslides: 0.109331 Test F1 Background: 0.976669 Test F1 Landslides: 0.030793 9 Train loss: 0.008819 Test loss: 0.010692 Train F1 Background: 0.978771 Train F1 Landslides: 0.148253 Test F1 Background: 0.978417 Test F1 Landslides: 0.192284 10 Train loss: 0.008606 Test loss: 0.010046 Train F1 Background: 0.979123 Train F1 Landslides: 0.175519 Test F1 Background: 0.976596 Test F1 Landslides: 0.025846 11 Train loss: 0.008327 Test loss: 0.009528 Train F1 Background: 0.9796 Train F1 Landslides: 0.210638 Test F1 Background: 0.976815 Test F1 Landslides: 0.044041 12 Train loss: 0.008292 Test loss: 0.010221 Train F1 Background: 0.97981 Train F1 Landslides: 0.224714 Test F1 Background: 0.978976 Test F1 Landslides: 0.238028 13 Train loss: 0.007887 Test loss: 0.009156 Train F1 Background: 0.98046 Train F1 Landslides: 0.26952 Test F1 Background: 0.977813 Test F1 Landslides: 0.128085 14 Train loss: 0.007568 Test loss: 0.009278 Train F1 Background: 0.981163 Train F1 Landslides: 0.314537 Test F1 Background: 0.978686 Test F1 Landslides: 0.19787 15 Train loss: 0.007281 Test loss: 0.010779 Train F1 Background: 0.981644 Train F1 Landslides: 0.343924 Test F1 Background: 0.980154 Test F1 Landslides: 0.319002 16 Train loss: 0.007308 Test loss: 0.009926 Train F1 Background: 0.981872 Train F1 Landslides: 0.357901 Test F1 Background: 0.979319 Test F1 Landslides: 0.255236 17 Train loss: 0.006999 Test loss: 0.009342 Train F1 Background: 0.982159 Train F1 Landslides: 0.374566 Test F1 Background: 0.978067 Test F1 Landslides: 0.150363 18 Train loss: 0.006835 Test loss: 0.00944 Train F1 Background: 0.982378 Train F1 Landslides: 0.387013 Test F1 Background: 0.978807 Test F1 Landslides: 0.20972 19 Train loss: 0.006753 Test loss: 0.009772 Train F1 Background: 0.982757 Train F1 Landslides: 0.408499 Test F1 Background: 0.97915 Test F1 Landslides: 0.240516 20 Train loss: 0.006624 Test loss: 0.009708 Train F1 Background: 0.982834 Train F1 Landslides: 0.412591 Test F1 Background: 0.978485 Test F1 Landslides: 0.184899 21 Train loss: 0.006465 Test loss: 0.009582 Train F1 Background: 0.983056 Train F1 Landslides: 0.424876 Test F1 Background: 0.978556 Test F1 Landslides: 0.191653 22 Train loss: 0.00629 Test loss: 0.009852 Train F1 Background: 0.983291 Train F1 Landslides: 0.437433 Test F1 Background: 0.979131 Test F1 Landslides: 0.237601 23 Train loss: 0.006128 Test loss: 0.010379 Train F1 Background: 0.983527 Train F1 Landslides: 0.449761 Test F1 Background: 0.979549 Test F1 Landslides: 0.275356 24 Train loss: 0.006018 Test loss: 0.009847 Train F1 Background: 0.983782 Train F1 Landslides: 0.463174 Test F1 Background: 0.978773 Test F1 Landslides: 0.209258 25 Train loss: 0.005863 Test loss: 0.009828 Train F1 Background: 0.984007 Train F1 Landslides: 0.474506 Test F1 Background: 0.978421 Test F1 Landslides: 0.1774 26 Train loss: 0.00594 Test loss: 0.010899 Train F1 Background: 0.983998 Train F1 Landslides: 0.474014 Test F1 Background: 0.980453 Test F1 Landslides: 0.338564 27 Train loss: 0.005963 Test loss: 0.010328 Train F1 Background: 0.983966 Train F1 Landslides: 0.472866 Test F1 Background: 0.979381 Test F1 Landslides: 0.261044 28 Train loss: 0.005893 Test loss: 0.010026 Train F1 Background: 0.984053 Train F1 Landslides: 0.477269 Test F1 Background: 0.97892 Test F1 Landslides: 0.219774 29 Train loss: 0.005893 Test loss: 0.010204 Train F1 Background: 0.984026 Train F1 Landslides: 0.47562 Test F1 Background: 0.980131 Test F1 Landslides: 0.310025 30 Train loss: 0.005721 Test loss: 0.010425 Train F1 Background: 0.984367 Train F1 Landslides: 0.492993 Test F1 Background: 0.979685 Test F1 Landslides: 0.282391 31 Train loss: 0.005545 Test loss: 0.01089 Train F1 Background: 0.984595 Train F1 Landslides: 0.503893 Test F1 Background: 0.980469 Test F1 Landslides: 0.339315 32 Train loss: 0.005499 Test loss: 0.010269 Train F1 Background: 0.984669 Train F1 Landslides: 0.507566 Test F1 Background: 0.978811 Test F1 Landslides: 0.209778 33 Train loss: 0.005645 Test loss: 0.010118 Train F1 Background: 0.984456 Train F1 Landslides: 0.497307 Test F1 Background: 0.978756 Test F1 Landslides: 0.203865 34 Train loss: 0.005464 Test loss: 0.010422 Train F1 Background: 0.984755 Train F1 Landslides: 0.511679 Test F1 Background: 0.979855 Test F1 Landslides: 0.292772 35 Train loss: 0.005356 Test loss: 0.009946 Train F1 Background: 0.984985 Train F1 Landslides: 0.522716 Test F1 Background: 0.979112 Test F1 Landslides: 0.236201 36 Train loss: 0.005361 Test loss: 0.00996 Train F1 Background: 0.984998 Train F1 Landslides: 0.523373 Test F1 Background: 0.978906 Test F1 Landslides: 0.216325 37 Train loss: 0.00541 Test loss: 0.010041 Train F1 Background: 0.984936 Train F1 Landslides: 0.520581 Test F1 Background: 0.978635 Test F1 Landslides: 0.198624 38 Train loss: 0.005336 Test loss: 0.009927 Train F1 Background: 0.98509 Train F1 Landslides: 0.527752 Test F1 Background: 0.979323 Test F1 Landslides: 0.247698 39 Train loss: 0.005249 Test loss: 0.010201 Train F1 Background: 0.98534 Train F1 Landslides: 0.539574 Test F1 Background: 0.979308 Test F1 Landslides: 0.24887 40 Train loss: 0.00516 Test loss: 0.010616 Train F1 Background: 0.985408 Train F1 Landslides: 0.542586 Test F1 Background: 0.980109 Test F1 Landslides: 0.309992 41 Train loss: 0.005083 Test loss: 0.010613 Train F1 Background: 0.985655 Train F1 Landslides: 0.553969 Test F1 Background: 0.978979 Test F1 Landslides: 0.230499 42 Train loss: 0.005171 Test loss: 0.010975 Train F1 Background: 0.985459 Train F1 Landslides: 0.544922 Test F1 Background: 0.97994 Test F1 Landslides: 0.300635 43 Train loss: 0.005072 Test loss: 0.011044 Train F1 Background: 0.985545 Train F1 Landslides: 0.548927 Test F1 Background: 0.980017 Test F1 Landslides: 0.309512 44 Train loss: 0.005003 Test loss: 0.010741 Train F1 Background: 0.985747 Train F1 Landslides: 0.558059 Test F1 Background: 0.979769 Test F1 Landslides: 0.287863 45 Train loss: 0.004997 Test loss: 0.010289 Train F1 Background: 0.985781 Train F1 Landslides: 0.559606 Test F1 Background: 0.979539 Test F1 Landslides: 0.268392 46 Train loss: 0.005007 Test loss: 0.010745 Train F1 Background: 0.985891 Train F1 Landslides: 0.564552 Test F1 Background: 0.979794 Test F1 Landslides: 0.287549 47 Train loss: 0.005289 Test loss: 0.014483 Train F1 Background: 0.985332 Train F1 Landslides: 0.539517 Test F1 Background: 0.979695 Test F1 Landslides: 0.324844 48 Train loss: 0.007856 Test loss: 0.009514 Train F1 Background: 0.979534 Train F1 Landslides: 0.206533 Test F1 Background: 0.977005 Test F1 Landslides: 0.060419 49 Train loss: 0.008423 Test loss: 5.047374 Train F1 Background: 0.979498 Train F1 Landslides: 0.207157 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 50 Train loss: 0.009962 Test loss: 0.012324 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 2.7e-05 51 Train loss: 0.00943 Test loss: 0.009469 Train F1 Background: 0.976989 Train F1 Landslides: 5.9e-05 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 52 Train loss: 0.008939 Test loss: 0.009785 Train F1 Background: 0.97701 Train F1 Landslides: 0.001979 Test F1 Background: 0.976324 Test F1 Landslides: 0.000106 53 Train loss: 0.008756 Test loss: 0.00898 Train F1 Background: 0.977083 Train F1 Landslides: 0.008507 Test F1 Background: 0.976358 Test F1 Landslides: 0.003177 54 Train loss: 0.008402 Test loss: 0.009163 Train F1 Background: 0.977609 Train F1 Landslides: 0.054527 Test F1 Background: 0.976894 Test F1 Landslides: 0.054003 55 Train loss: 0.007924 Test loss: 0.008967 Train F1 Background: 0.978167 Train F1 Landslides: 0.101172 Test F1 Background: 0.977445 Test F1 Landslides: 0.101104 56 Train loss: 0.007736 Test loss: 0.009313 Train F1 Background: 0.978937 Train F1 Landslides: 0.161461 Test F1 Background: 0.978124 Test F1 Landslides: 0.161384 57 Train loss: 0.007997 Test loss: 0.009166 Train F1 Background: 0.979117 Train F1 Landslides: 0.175365 Test F1 Background: 0.977122 Test F1 Landslides: 0.07136 58 Train loss: 0.007548 Test loss: 0.010083 Train F1 Background: 0.97973 Train F1 Landslides: 0.219898 Test F1 Background: 0.977782 Test F1 Landslides: 0.144076 59 Train loss: 0.007167 Test loss: 0.009035 Train F1 Background: 0.980969 Train F1 Landslides: 0.302384 Test F1 Background: 0.977948 Test F1 Landslides: 0.142896 60 Train loss: 0.006733 Test loss: 0.009141 Train F1 Background: 0.981727 Train F1 Landslides: 0.349177 Test F1 Background: 0.978118 Test F1 Landslides: 0.157204 61 Train loss: 0.00651 Test loss: 0.010457 Train F1 Background: 0.982282 Train F1 Landslides: 0.381582 Test F1 Background: 0.979424 Test F1 Landslides: 0.27698 62 Train loss: 0.006246 Test loss: 0.009252 Train F1 Background: 0.982901 Train F1 Landslides: 0.416351 Test F1 Background: 0.978172 Test F1 Landslides: 0.159249 63 Train loss: 0.005973 Test loss: 0.009733 Train F1 Background: 0.983415 Train F1 Landslides: 0.444134 Test F1 Background: 0.978981 Test F1 Landslides: 0.227181 64 Train loss: 0.005818 Test loss: 0.010484 Train F1 Background: 0.983694 Train F1 Landslides: 0.458421 Test F1 Background: 0.980226 Test F1 Landslides: 0.320062 65 Train loss: 0.005806 Test loss: 0.010121 Train F1 Background: 0.983991 Train F1 Landslides: 0.47403 Test F1 Background: 0.97978 Test F1 Landslides: 0.287648 66 Train loss: 0.005617 Test loss: 0.010599 Train F1 Background: 0.984292 Train F1 Landslides: 0.489162 Test F1 Background: 0.979625 Test F1 Landslides: 0.283831 67 Train loss: 0.0055 Test loss: 0.009941 Train F1 Background: 0.984486 Train F1 Landslides: 0.49862 Test F1 Background: 0.979496 Test F1 Landslides: 0.26456 68 Train loss: 0.005452 Test loss: 0.011415 Train F1 Background: 0.984683 Train F1 Landslides: 0.508306 Test F1 Background: 0.98002 Test F1 Landslides: 0.319232 69 Train loss: 0.005336 Test loss: 0.010689 Train F1 Background: 0.985036 Train F1 Landslides: 0.525293 Test F1 Background: 0.97993 Test F1 Landslides: 0.300472 70 Train loss: 0.005233 Test loss: 0.011035 Train F1 Background: 0.985223 Train F1 Landslides: 0.534144 Test F1 Background: 0.980046 Test F1 Landslides: 0.31267 71 Train loss: 0.00518 Test loss: 0.010443 Train F1 Background: 0.985318 Train F1 Landslides: 0.538497 Test F1 Background: 0.979018 Test F1 Landslides: 0.230564 72 Train loss: 0.005127 Test loss: 0.010658 Train F1 Background: 0.985467 Train F1 Landslides: 0.545444 Test F1 Background: 0.979496 Test F1 Landslides: 0.265925 73 Train loss: 0.005083 Test loss: 0.010784 Train F1 Background: 0.985565 Train F1 Landslides: 0.550002 Test F1 Background: 0.979368 Test F1 Landslides: 0.26481 74 Train loss: 0.004998 Test loss: 0.010841 Train F1 Background: 0.985693 Train F1 Landslides: 0.555747 Test F1 Background: 0.97974 Test F1 Landslides: 0.286283 75 Train loss: 0.005015 Test loss: 0.010506 Train F1 Background: 0.985771 Train F1 Landslides: 0.559362 Test F1 Background: 0.979258 Test F1 Landslides: 0.251814 76 Train loss: 0.005075 Test loss: 0.011203 Train F1 Background: 0.985666 Train F1 Landslides: 0.554705 Test F1 Background: 0.978735 Test F1 Landslides: 0.208367 77 Train loss: 0.005219 Test loss: 0.011782 Train F1 Background: 0.985504 Train F1 Landslides: 0.547271 Test F1 Background: 0.980076 Test F1 Landslides: 0.317417 78 Train loss: 0.005078 Test loss: 0.011364 Train F1 Background: 0.985641 Train F1 Landslides: 0.553483 Test F1 Background: 0.98005 Test F1 Landslides: 0.314383 79 Train loss: 0.0049 Test loss: 0.011471 Train F1 Background: 0.985902 Train F1 Landslides: 0.565211 Test F1 Background: 0.980153 Test F1 Landslides: 0.320395 Validation Loss: 0.009737 Val F1 Background: 0.983215 Val F1 Landslides: 0.340505
Run history:
| Test F1 Background | ▁▁▁▃▂▁▅▅▆▅▅▆▅█▅▇▅▇▅▆▇▇▇▇▂▁▁▂▄▃▄▄█▇▇▇▆▇▅▇ |
| Test F1 Landslides | ▁▁▁▄▂▂▆▅▆▅▅▆▅█▆▇▅▇▅▆▇▇▇▇▂▁▁▂▄▄▄▄█▇█▇▆▇▅█ |
| Test loss | █▂▂▁▁▁▁▁▁▁▁▁▁▂▁▁▁▁▁▁▁▂▂▂▁▂▁▁▁▁▁▁▁▁▂▂▂▂▂▂ |
| Train F1 Background | ▁▆▆▆▆▆▇▇▇▇▇▇████████████▇▆▆▆▆▇▇▇████████ |
| Train F1 Landslides | ▂▁▁▂▂▃▄▅▅▆▆▆▇▇▇▇▇▇▇█████▄▁▁▂▃▄▅▆▇▇▇█████ |
| Train loss | █▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.98015 |
| Test F1 Landslides | 0.32039 |
| Test loss | 0.01147 |
| Train F1 Background | 0.9859 |
| Train F1 Landslides | 0.56521 |
| Train loss | 0.0049 |
| Val F1 Background | 0.98321 |
| Val F1 Landslides | 0.3405 |
| Val Loss | 0.00974 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_213344-ey5jzz1q/logs
wandb: Agent Starting Run: cpa4oqr3 with config: wandb: batchsize: 32 wandb: epochs: 80 wandb: l2_penalty: 0 wandb: learn_rate: 0.0005 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_215006-cpa4oqr3
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/3dd93fgd
0 Train loss: 0.208205 Test loss: 0.070739 Train F1 Background: 0.957753 Train F1 Landslides: 0.045609 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 1 Train loss: 0.048926 Test loss: 0.034845 Train F1 Background: 0.976978 Train F1 Landslides: 0.00036 Test F1 Background: 0.976326 Test F1 Landslides: 0.000199 2 Train loss: 0.026668 Test loss: 0.022862 Train F1 Background: 0.977019 Train F1 Landslides: 0.002852 Test F1 Background: 0.977158 Test F1 Landslides: 0.076389 3 Train loss: 0.019137 Test loss: 0.017136 Train F1 Background: 0.977178 Train F1 Landslides: 0.017956 Test F1 Background: 0.976586 Test F1 Landslides: 0.024559 4 Train loss: 0.015429 Test loss: 0.014476 Train F1 Background: 0.977492 Train F1 Landslides: 0.044611 Test F1 Background: 0.976445 Test F1 Landslides: 0.011348 5 Train loss: 0.013387 Test loss: 0.013037 Train F1 Background: 0.977687 Train F1 Landslides: 0.061119 Test F1 Background: 0.976765 Test F1 Landslides: 0.039565 6 Train loss: 0.012035 Test loss: 0.012173 Train F1 Background: 0.978193 Train F1 Landslides: 0.103208 Test F1 Background: 0.977078 Test F1 Landslides: 0.068336 7 Train loss: 0.011029 Test loss: 0.011398 Train F1 Background: 0.978683 Train F1 Landslides: 0.14188 Test F1 Background: 0.97739 Test F1 Landslides: 0.094879 8 Train loss: 0.010248 Test loss: 0.011211 Train F1 Background: 0.979341 Train F1 Landslides: 0.190863 Test F1 Background: 0.978282 Test F1 Landslides: 0.169624 9 Train loss: 0.01016 Test loss: 0.011258 Train F1 Background: 0.978707 Train F1 Landslides: 0.144212 Test F1 Background: 0.978258 Test F1 Landslides: 0.173884 10 Train loss: 0.009327 Test loss: 0.010409 Train F1 Background: 0.979817 Train F1 Landslides: 0.225114 Test F1 Background: 0.977859 Test F1 Landslides: 0.134551 11 Train loss: 0.008849 Test loss: 0.010159 Train F1 Background: 0.980387 Train F1 Landslides: 0.264244 Test F1 Background: 0.977028 Test F1 Landslides: 0.063176 12 Train loss: 0.008533 Test loss: 0.009953 Train F1 Background: 0.980761 Train F1 Landslides: 0.288415 Test F1 Background: 0.977978 Test F1 Landslides: 0.144927 13 Train loss: 0.008257 Test loss: 0.009997 Train F1 Background: 0.981161 Train F1 Landslides: 0.313922 Test F1 Background: 0.977962 Test F1 Landslides: 0.143315 14 Train loss: 0.007943 Test loss: 0.009903 Train F1 Background: 0.981436 Train F1 Landslides: 0.331044 Test F1 Background: 0.977963 Test F1 Landslides: 0.142724 15 Train loss: 0.007723 Test loss: 0.010075 Train F1 Background: 0.981848 Train F1 Landslides: 0.356133 Test F1 Background: 0.978375 Test F1 Landslides: 0.177441 16 Train loss: 0.007702 Test loss: 0.00979 Train F1 Background: 0.981746 Train F1 Landslides: 0.349964 Test F1 Background: 0.977971 Test F1 Landslides: 0.143353 17 Train loss: 0.007291 Test loss: 0.009561 Train F1 Background: 0.982333 Train F1 Landslides: 0.384218 Test F1 Background: 0.977964 Test F1 Landslides: 0.143199 18 Train loss: 0.007138 Test loss: 0.009669 Train F1 Background: 0.982526 Train F1 Landslides: 0.395149 Test F1 Background: 0.978507 Test F1 Landslides: 0.186032 19 Train loss: 0.007017 Test loss: 0.010293 Train F1 Background: 0.982688 Train F1 Landslides: 0.404184 Test F1 Background: 0.979372 Test F1 Landslides: 0.259784 20 Train loss: 0.006955 Test loss: 0.0095 Train F1 Background: 0.982875 Train F1 Landslides: 0.415135 Test F1 Background: 0.978217 Test F1 Landslides: 0.162143 21 Train loss: 0.0068 Test loss: 0.00948 Train F1 Background: 0.982926 Train F1 Landslides: 0.4175 Test F1 Background: 0.97844 Test F1 Landslides: 0.179358 22 Train loss: 0.00651 Test loss: 0.009718 Train F1 Background: 0.983406 Train F1 Landslides: 0.443366 Test F1 Background: 0.978406 Test F1 Landslides: 0.177331 23 Train loss: 0.006376 Test loss: 0.009857 Train F1 Background: 0.983689 Train F1 Landslides: 0.45815 Test F1 Background: 0.979061 Test F1 Landslides: 0.230421 24 Train loss: 0.006418 Test loss: 0.009632 Train F1 Background: 0.983686 Train F1 Landslides: 0.458064 Test F1 Background: 0.978872 Test F1 Landslides: 0.21447 25 Train loss: 0.006185 Test loss: 0.009634 Train F1 Background: 0.983968 Train F1 Landslides: 0.472874 Test F1 Background: 0.978443 Test F1 Landslides: 0.179803 26 Train loss: 0.00604 Test loss: 0.009778 Train F1 Background: 0.984057 Train F1 Landslides: 0.476981 Test F1 Background: 0.978931 Test F1 Landslides: 0.218598 27 Train loss: 0.006038 Test loss: 0.009707 Train F1 Background: 0.984054 Train F1 Landslides: 0.476963 Test F1 Background: 0.978298 Test F1 Landslides: 0.167726 28 Train loss: 0.006042 Test loss: 0.009753 Train F1 Background: 0.984049 Train F1 Landslides: 0.476604 Test F1 Background: 0.979189 Test F1 Landslides: 0.238715 29 Train loss: 0.005887 Test loss: 0.009551 Train F1 Background: 0.984393 Train F1 Landslides: 0.494 Test F1 Background: 0.978399 Test F1 Landslides: 0.176013 30 Train loss: 0.005734 Test loss: 0.010377 Train F1 Background: 0.984611 Train F1 Landslides: 0.50467 Test F1 Background: 0.976929 Test F1 Landslides: 0.052844 31 Train loss: 0.006997 Test loss: 0.009848 Train F1 Background: 0.981845 Train F1 Landslides: 0.356568 Test F1 Background: 0.978986 Test F1 Landslides: 0.226752 32 Train loss: 0.006472 Test loss: 0.009697 Train F1 Background: 0.983171 Train F1 Landslides: 0.431278 Test F1 Background: 0.978411 Test F1 Landslides: 0.182272 33 Train loss: 0.00597 Test loss: 0.009655 Train F1 Background: 0.984011 Train F1 Landslides: 0.475003 Test F1 Background: 0.979143 Test F1 Landslides: 0.235664 34 Train loss: 0.005795 Test loss: 0.009879 Train F1 Background: 0.984264 Train F1 Landslides: 0.487504 Test F1 Background: 0.979132 Test F1 Landslides: 0.237038 35 Train loss: 0.005635 Test loss: 0.009591 Train F1 Background: 0.984818 Train F1 Landslides: 0.514803 Test F1 Background: 0.978961 Test F1 Landslides: 0.219043 36 Train loss: 0.005484 Test loss: 0.009728 Train F1 Background: 0.984946 Train F1 Landslides: 0.520808 Test F1 Background: 0.979319 Test F1 Landslides: 0.248035 37 Train loss: 0.005479 Test loss: 0.009546 Train F1 Background: 0.984968 Train F1 Landslides: 0.5218 Test F1 Background: 0.97894 Test F1 Landslides: 0.218362 38 Train loss: 0.005361 Test loss: 0.009601 Train F1 Background: 0.985088 Train F1 Landslides: 0.527398 Test F1 Background: 0.979124 Test F1 Landslides: 0.231159 39 Train loss: 0.00533 Test loss: 0.009861 Train F1 Background: 0.985253 Train F1 Landslides: 0.535326 Test F1 Background: 0.979258 Test F1 Landslides: 0.244407 40 Train loss: 0.005321 Test loss: 0.009697 Train F1 Background: 0.985231 Train F1 Landslides: 0.534246 Test F1 Background: 0.97936 Test F1 Landslides: 0.250616 41 Train loss: 0.005283 Test loss: 0.009754 Train F1 Background: 0.985412 Train F1 Landslides: 0.542692 Test F1 Background: 0.979334 Test F1 Landslides: 0.249708 42 Train loss: 0.005303 Test loss: 0.010041 Train F1 Background: 0.985448 Train F1 Landslides: 0.544289 Test F1 Background: 0.979361 Test F1 Landslides: 0.253235 43 Train loss: 0.005452 Test loss: 0.010579 Train F1 Background: 0.985301 Train F1 Landslides: 0.537806 Test F1 Background: 0.979449 Test F1 Landslides: 0.268146 44 Train loss: 0.005408 Test loss: 0.010413 Train F1 Background: 0.985051 Train F1 Landslides: 0.526094 Test F1 Background: 0.979708 Test F1 Landslides: 0.282587 45 Train loss: 0.005363 Test loss: 0.010267 Train F1 Background: 0.985196 Train F1 Landslides: 0.532758 Test F1 Background: 0.979442 Test F1 Landslides: 0.261588 46 Train loss: 0.005191 Test loss: 0.009836 Train F1 Background: 0.985521 Train F1 Landslides: 0.547741 Test F1 Background: 0.978847 Test F1 Landslides: 0.213423 47 Train loss: 0.005134 Test loss: 0.010437 Train F1 Background: 0.985602 Train F1 Landslides: 0.551357 Test F1 Background: 0.979541 Test F1 Landslides: 0.269935 48 Train loss: 0.005114 Test loss: 0.010013 Train F1 Background: 0.985727 Train F1 Landslides: 0.557034 Test F1 Background: 0.979035 Test F1 Landslides: 0.228475 49 Train loss: 0.005071 Test loss: 0.010643 Train F1 Background: 0.985751 Train F1 Landslides: 0.558174 Test F1 Background: 0.979799 Test F1 Landslides: 0.290024 50 Train loss: 0.005043 Test loss: 0.010514 Train F1 Background: 0.985863 Train F1 Landslides: 0.563171 Test F1 Background: 0.97975 Test F1 Landslides: 0.286419 51 Train loss: 0.004953 Test loss: 0.010601 Train F1 Background: 0.985919 Train F1 Landslides: 0.565703 Test F1 Background: 0.979561 Test F1 Landslides: 0.274243 52 Train loss: 0.004964 Test loss: 0.010106 Train F1 Background: 0.985969 Train F1 Landslides: 0.567906 Test F1 Background: 0.979429 Test F1 Landslides: 0.259063 53 Train loss: 0.004934 Test loss: 0.010214 Train F1 Background: 0.986019 Train F1 Landslides: 0.57013 Test F1 Background: 0.979233 Test F1 Landslides: 0.245604 54 Train loss: 0.004914 Test loss: 0.010306 Train F1 Background: 0.986088 Train F1 Landslides: 0.573285 Test F1 Background: 0.979424 Test F1 Landslides: 0.260039 55 Train loss: 0.004906 Test loss: 0.010695 Train F1 Background: 0.986023 Train F1 Landslides: 0.570286 Test F1 Background: 0.979804 Test F1 Landslides: 0.291681 56 Train loss: 0.004892 Test loss: 0.010392 Train F1 Background: 0.98615 Train F1 Landslides: 0.575964 Test F1 Background: 0.979604 Test F1 Landslides: 0.27382 57 Train loss: 0.004864 Test loss: 0.010506 Train F1 Background: 0.986169 Train F1 Landslides: 0.576914 Test F1 Background: 0.979439 Test F1 Landslides: 0.261568 58 Train loss: 0.004975 Test loss: 0.010934 Train F1 Background: 0.98609 Train F1 Landslides: 0.573323 Test F1 Background: 0.979437 Test F1 Landslides: 0.269184 59 Train loss: 0.005147 Test loss: 0.010355 Train F1 Background: 0.985694 Train F1 Landslides: 0.556023 Test F1 Background: 0.979156 Test F1 Landslides: 0.239969 60 Train loss: 0.005279 Test loss: 0.010864 Train F1 Background: 0.985363 Train F1 Landslides: 0.540842 Test F1 Background: 0.97939 Test F1 Landslides: 0.261844 61 Train loss: 0.005233 Test loss: 0.010273 Train F1 Background: 0.985462 Train F1 Landslides: 0.545354 Test F1 Background: 0.978979 Test F1 Landslides: 0.224869 62 Train loss: 0.005173 Test loss: 0.010497 Train F1 Background: 0.985581 Train F1 Landslides: 0.55058 Test F1 Background: 0.979151 Test F1 Landslides: 0.241458 63 Train loss: 0.005012 Test loss: 0.010602 Train F1 Background: 0.985768 Train F1 Landslides: 0.559063 Test F1 Background: 0.979614 Test F1 Landslides: 0.274875 64 Train loss: 0.004965 Test loss: 0.010624 Train F1 Background: 0.985928 Train F1 Landslides: 0.566159 Test F1 Background: 0.979543 Test F1 Landslides: 0.273519 65 Train loss: 0.004931 Test loss: 0.010947 Train F1 Background: 0.986084 Train F1 Landslides: 0.573039 Test F1 Background: 0.979688 Test F1 Landslides: 0.283002 66 Train loss: 0.004977 Test loss: 0.011141 Train F1 Background: 0.985916 Train F1 Landslides: 0.565809 Test F1 Background: 0.979395 Test F1 Landslides: 0.257111 67 Train loss: 0.005485 Test loss: 0.010864 Train F1 Background: 0.984978 Train F1 Landslides: 0.522855 Test F1 Background: 0.979278 Test F1 Landslides: 0.257368 68 Train loss: 0.005554 Test loss: 0.010083 Train F1 Background: 0.984769 Train F1 Landslides: 0.512927 Test F1 Background: 0.978595 Test F1 Landslides: 0.196772 69 Train loss: 0.005287 Test loss: 0.01063 Train F1 Background: 0.985254 Train F1 Landslides: 0.535669 Test F1 Background: 0.979152 Test F1 Landslides: 0.239359 70 Train loss: 0.005087 Test loss: 0.010926 Train F1 Background: 0.985548 Train F1 Landslides: 0.54914 Test F1 Background: 0.980086 Test F1 Landslides: 0.313292 71 Train loss: 0.004997 Test loss: 0.010324 Train F1 Background: 0.985892 Train F1 Landslides: 0.564598 Test F1 Background: 0.978556 Test F1 Landslides: 0.191203 72 Train loss: 0.004918 Test loss: 0.010722 Train F1 Background: 0.98599 Train F1 Landslides: 0.568942 Test F1 Background: 0.979705 Test F1 Landslides: 0.279739 73 Train loss: 0.004881 Test loss: 0.010667 Train F1 Background: 0.986128 Train F1 Landslides: 0.575033 Test F1 Background: 0.979753 Test F1 Landslides: 0.284053 74 Train loss: 0.004777 Test loss: 0.010762 Train F1 Background: 0.986302 Train F1 Landslides: 0.582659 Test F1 Background: 0.979607 Test F1 Landslides: 0.272157 75 Train loss: 0.004737 Test loss: 0.010781 Train F1 Background: 0.986326 Train F1 Landslides: 0.583669 Test F1 Background: 0.979794 Test F1 Landslides: 0.28791 76 Train loss: 0.004734 Test loss: 0.010801 Train F1 Background: 0.986441 Train F1 Landslides: 0.588634 Test F1 Background: 0.979759 Test F1 Landslides: 0.284681 77 Train loss: 0.004669 Test loss: 0.011081 Train F1 Background: 0.986533 Train F1 Landslides: 0.592603 Test F1 Background: 0.97984 Test F1 Landslides: 0.293408 78 Train loss: 0.004721 Test loss: 0.011152 Train F1 Background: 0.986556 Train F1 Landslides: 0.593588 Test F1 Background: 0.979804 Test F1 Landslides: 0.290642 79 Train loss: 0.004666 Test loss: 0.010796 Train F1 Background: 0.986636 Train F1 Landslides: 0.597015 Test F1 Background: 0.979615 Test F1 Landslides: 0.275513 Validation Loss: 0.009882 Val F1 Background: 0.982625 Val F1 Landslides: 0.296545
Run history:
| Test F1 Background | ▁▃▁▂▅▄▄▄▄▅▅▅▆▆▆▂▅▆▇▆▇▇▇▆▆▇▇▇▇▇▇▆▇▇▅█▇▇▇▇ |
| Test F1 Landslides | ▁▃▁▃▅▄▄▄▄▅▅▅▆▆▆▂▅▆▇▆▇▇▇▆▆▇▇▇▇▇▇▆▇▇▅█▇▇▇▇ |
| Test loss | █▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Train F1 Background | ▁▆▆▆▆▆▇▇▇▇▇▇▇▇▇█▇▇██████████████████████ |
| Train F1 Landslides | ▂▁▁▂▃▄▄▅▅▆▆▆▆▇▇▇▆▇▇▇▇▇▇▇██████▇▇██▇▇████ |
| Train loss | █▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97961 |
| Test F1 Landslides | 0.27551 |
| Test loss | 0.0108 |
| Train F1 Background | 0.98664 |
| Train F1 Landslides | 0.59702 |
| Train loss | 0.00467 |
| Val F1 Background | 0.98262 |
| Val F1 Landslides | 0.29655 |
| Val Loss | 0.00988 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_215006-cpa4oqr3/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Train longer U-Net",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [200]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_trainlonger_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain(config, model, device, transform_train = "to_tensor")
torch.save(model.state_dict(), "weights/model_trainlonger_fcn.pth")
wandb.agent(sweep_trainlonger_fcn, function=main)
wandb.finish()
Create sweep with ID: k3785vyj Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/k3785vyj
wandb: Agent Starting Run: q2cca3lh with config: wandb: batchsize: 64 wandb: epochs: 200 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231014_220959-q2cca3lh
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/k3785vyj
0 Train loss: 0.233916 Test loss: 0.072342 Train F1 Background: 0.95224 Train F1 Landslides: 0.056902 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 1 Train loss: 0.041694 Test loss: 0.028791 Train F1 Background: 0.976983 Train F1 Landslides: 1.4e-05 Test F1 Background: 0.976325 Test F1 Landslides: 0.000159 2 Train loss: 0.022338 Test loss: 0.018497 Train F1 Background: 0.976999 Train F1 Landslides: 0.000993 Test F1 Background: 0.976326 Test F1 Landslides: 0.000278 3 Train loss: 0.016989 Test loss: 0.014957 Train F1 Background: 0.977029 Train F1 Landslides: 0.003612 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 4 Train loss: 0.014508 Test loss: 0.013407 Train F1 Background: 0.977167 Train F1 Landslides: 0.015901 Test F1 Background: 0.976584 Test F1 Landslides: 0.02397 5 Train loss: 0.013027 Test loss: 0.012139 Train F1 Background: 0.977411 Train F1 Landslides: 0.038041 Test F1 Background: 0.976496 Test F1 Landslides: 0.016375 6 Train loss: 0.012055 Test loss: 0.011494 Train F1 Background: 0.977579 Train F1 Landslides: 0.052233 Test F1 Background: 0.976736 Test F1 Landslides: 0.037958 7 Train loss: 0.011314 Test loss: 0.010964 Train F1 Background: 0.977695 Train F1 Landslides: 0.062808 Test F1 Background: 0.9767 Test F1 Landslides: 0.034946 8 Train loss: 0.01097 Test loss: 0.010388 Train F1 Background: 0.977516 Train F1 Landslides: 0.046439 Test F1 Background: 0.97674 Test F1 Landslides: 0.037888 9 Train loss: 0.010293 Test loss: 0.009983 Train F1 Background: 0.978025 Train F1 Landslides: 0.089849 Test F1 Background: 0.977397 Test F1 Landslides: 0.096032 10 Train loss: 0.009836 Test loss: 0.009883 Train F1 Background: 0.978548 Train F1 Landslides: 0.13142 Test F1 Background: 0.977723 Test F1 Landslides: 0.126231 11 Train loss: 0.009505 Test loss: 0.009409 Train F1 Background: 0.978961 Train F1 Landslides: 0.163564 Test F1 Background: 0.977342 Test F1 Landslides: 0.090013 12 Train loss: 0.009137 Test loss: 0.00929 Train F1 Background: 0.979467 Train F1 Landslides: 0.200508 Test F1 Background: 0.977291 Test F1 Landslides: 0.085227 13 Train loss: 0.008917 Test loss: 0.009464 Train F1 Background: 0.979703 Train F1 Landslides: 0.217397 Test F1 Background: 0.977659 Test F1 Landslides: 0.118127 14 Train loss: 0.008675 Test loss: 0.009352 Train F1 Background: 0.979943 Train F1 Landslides: 0.23429 Test F1 Background: 0.977931 Test F1 Landslides: 0.140155 15 Train loss: 0.008357 Test loss: 0.009386 Train F1 Background: 0.980711 Train F1 Landslides: 0.286239 Test F1 Background: 0.977507 Test F1 Landslides: 0.109772 16 Train loss: 0.008188 Test loss: 0.009064 Train F1 Background: 0.980664 Train F1 Landslides: 0.282265 Test F1 Background: 0.977849 Test F1 Landslides: 0.133216 17 Train loss: 0.007918 Test loss: 0.009063 Train F1 Background: 0.981242 Train F1 Landslides: 0.319022 Test F1 Background: 0.97839 Test F1 Landslides: 0.17433 18 Train loss: 0.007637 Test loss: 0.009816 Train F1 Background: 0.981737 Train F1 Landslides: 0.349212 Test F1 Background: 0.979216 Test F1 Landslides: 0.246666 19 Train loss: 0.007576 Test loss: 0.009188 Train F1 Background: 0.982031 Train F1 Landslides: 0.366966 Test F1 Background: 0.978763 Test F1 Landslides: 0.207659 20 Train loss: 0.007288 Test loss: 0.009558 Train F1 Background: 0.982294 Train F1 Landslides: 0.381986 Test F1 Background: 0.97881 Test F1 Landslides: 0.211319 21 Train loss: 0.007158 Test loss: 0.009504 Train F1 Background: 0.9825 Train F1 Landslides: 0.394006 Test F1 Background: 0.97793 Test F1 Landslides: 0.145021 22 Train loss: 0.006954 Test loss: 0.009911 Train F1 Background: 0.982552 Train F1 Landslides: 0.396422 Test F1 Background: 0.979221 Test F1 Landslides: 0.247078 23 Train loss: 0.006827 Test loss: 0.010054 Train F1 Background: 0.982889 Train F1 Landslides: 0.415206 Test F1 Background: 0.979875 Test F1 Landslides: 0.293975 24 Train loss: 0.006635 Test loss: 0.00931 Train F1 Background: 0.983281 Train F1 Landslides: 0.436687 Test F1 Background: 0.978915 Test F1 Landslides: 0.22061 25 Train loss: 0.006579 Test loss: 0.009709 Train F1 Background: 0.983241 Train F1 Landslides: 0.434504 Test F1 Background: 0.979819 Test F1 Landslides: 0.289801 26 Train loss: 0.006464 Test loss: 0.009417 Train F1 Background: 0.983388 Train F1 Landslides: 0.442267 Test F1 Background: 0.978643 Test F1 Landslides: 0.198959 27 Train loss: 0.00631 Test loss: 0.009327 Train F1 Background: 0.98358 Train F1 Landslides: 0.452433 Test F1 Background: 0.978038 Test F1 Landslides: 0.151762 28 Train loss: 0.006356 Test loss: 0.0104 Train F1 Background: 0.983423 Train F1 Landslides: 0.444328 Test F1 Background: 0.979682 Test F1 Landslides: 0.287456 29 Train loss: 0.006243 Test loss: 0.009981 Train F1 Background: 0.983574 Train F1 Landslides: 0.452029 Test F1 Background: 0.979317 Test F1 Landslides: 0.251765 30 Train loss: 0.006017 Test loss: 0.009487 Train F1 Background: 0.983949 Train F1 Landslides: 0.471471 Test F1 Background: 0.97908 Test F1 Landslides: 0.234037 31 Train loss: 0.005904 Test loss: 0.00963 Train F1 Background: 0.984086 Train F1 Landslides: 0.478181 Test F1 Background: 0.978764 Test F1 Landslides: 0.212855 32 Train loss: 0.005953 Test loss: 0.009534 Train F1 Background: 0.984047 Train F1 Landslides: 0.476421 Test F1 Background: 0.979001 Test F1 Landslides: 0.227297 33 Train loss: 0.005829 Test loss: 0.009617 Train F1 Background: 0.984206 Train F1 Landslides: 0.484416 Test F1 Background: 0.979487 Test F1 Landslides: 0.262567 34 Train loss: 0.005721 Test loss: 0.009892 Train F1 Background: 0.984336 Train F1 Landslides: 0.490765 Test F1 Background: 0.979833 Test F1 Landslides: 0.290585 35 Train loss: 0.005707 Test loss: 0.009341 Train F1 Background: 0.984459 Train F1 Landslides: 0.496974 Test F1 Background: 0.979217 Test F1 Landslides: 0.240745 36 Train loss: 0.005576 Test loss: 0.00981 Train F1 Background: 0.984643 Train F1 Landslides: 0.505926 Test F1 Background: 0.979657 Test F1 Landslides: 0.279435 37 Train loss: 0.005511 Test loss: 0.009675 Train F1 Background: 0.984805 Train F1 Landslides: 0.513797 Test F1 Background: 0.979484 Test F1 Landslides: 0.264068 38 Train loss: 0.005487 Test loss: 0.010121 Train F1 Background: 0.984859 Train F1 Landslides: 0.516287 Test F1 Background: 0.979921 Test F1 Landslides: 0.297252 39 Train loss: 0.005389 Test loss: 0.010196 Train F1 Background: 0.985016 Train F1 Landslides: 0.523782 Test F1 Background: 0.979982 Test F1 Landslides: 0.305452 40 Train loss: 0.005409 Test loss: 0.009657 Train F1 Background: 0.985027 Train F1 Landslides: 0.524453 Test F1 Background: 0.979371 Test F1 Landslides: 0.253584 41 Train loss: 0.005369 Test loss: 0.010045 Train F1 Background: 0.985061 Train F1 Landslides: 0.525984 Test F1 Background: 0.979771 Test F1 Landslides: 0.289865 42 Train loss: 0.0053 Test loss: 0.010163 Train F1 Background: 0.985153 Train F1 Landslides: 0.530389 Test F1 Background: 0.979585 Test F1 Landslides: 0.272933 43 Train loss: 0.005267 Test loss: 0.010855 Train F1 Background: 0.98527 Train F1 Landslides: 0.535782 Test F1 Background: 0.979827 Test F1 Landslides: 0.29973 44 Train loss: 0.005231 Test loss: 0.010647 Train F1 Background: 0.985319 Train F1 Landslides: 0.538031 Test F1 Background: 0.980596 Test F1 Landslides: 0.346795 45 Train loss: 0.005227 Test loss: 0.009961 Train F1 Background: 0.985385 Train F1 Landslides: 0.541318 Test F1 Background: 0.979407 Test F1 Landslides: 0.261157 46 Train loss: 0.005197 Test loss: 0.010578 Train F1 Background: 0.985474 Train F1 Landslides: 0.545487 Test F1 Background: 0.979525 Test F1 Landslides: 0.273095 47 Train loss: 0.005238 Test loss: 0.009823 Train F1 Background: 0.985285 Train F1 Landslides: 0.536627 Test F1 Background: 0.979061 Test F1 Landslides: 0.236186 48 Train loss: 0.005214 Test loss: 0.010569 Train F1 Background: 0.98536 Train F1 Landslides: 0.540161 Test F1 Background: 0.9798 Test F1 Landslides: 0.295154 49 Train loss: 0.005144 Test loss: 0.010383 Train F1 Background: 0.985519 Train F1 Landslides: 0.547493 Test F1 Background: 0.979795 Test F1 Landslides: 0.292559 50 Train loss: 0.005098 Test loss: 0.01054 Train F1 Background: 0.985553 Train F1 Landslides: 0.548955 Test F1 Background: 0.979616 Test F1 Landslides: 0.282894 51 Train loss: 0.005098 Test loss: 0.011458 Train F1 Background: 0.985624 Train F1 Landslides: 0.552312 Test F1 Background: 0.980518 Test F1 Landslides: 0.346792 52 Train loss: 0.005029 Test loss: 0.011016 Train F1 Background: 0.985737 Train F1 Landslides: 0.557347 Test F1 Background: 0.980051 Test F1 Landslides: 0.315445 53 Train loss: 0.005049 Test loss: 0.010244 Train F1 Background: 0.985742 Train F1 Landslides: 0.55773 Test F1 Background: 0.979491 Test F1 Landslides: 0.266604 54 Train loss: 0.005006 Test loss: 0.010414 Train F1 Background: 0.985782 Train F1 Landslides: 0.559436 Test F1 Background: 0.979464 Test F1 Landslides: 0.267691 55 Train loss: 0.00507 Test loss: 0.011932 Train F1 Background: 0.985675 Train F1 Landslides: 0.55463 Test F1 Background: 0.980344 Test F1 Landslides: 0.340464 56 Train loss: 0.005009 Test loss: 0.010236 Train F1 Background: 0.985851 Train F1 Landslides: 0.562614 Test F1 Background: 0.979635 Test F1 Landslides: 0.28006 57 Train loss: 0.004942 Test loss: 0.01148 Train F1 Background: 0.986001 Train F1 Landslides: 0.56931 Test F1 Background: 0.980215 Test F1 Landslides: 0.326827 58 Train loss: 0.004919 Test loss: 0.010628 Train F1 Background: 0.985957 Train F1 Landslides: 0.56718 Test F1 Background: 0.980144 Test F1 Landslides: 0.315702 59 Train loss: 0.004916 Test loss: 0.010892 Train F1 Background: 0.986066 Train F1 Landslides: 0.572174 Test F1 Background: 0.980038 Test F1 Landslides: 0.311545 60 Train loss: 0.004926 Test loss: 0.009894 Train F1 Background: 0.985996 Train F1 Landslides: 0.569147 Test F1 Background: 0.979298 Test F1 Landslides: 0.251801 61 Train loss: 0.004967 Test loss: 0.011432 Train F1 Background: 0.985922 Train F1 Landslides: 0.56575 Test F1 Background: 0.980042 Test F1 Landslides: 0.319859 62 Train loss: 0.004952 Test loss: 0.011315 Train F1 Background: 0.986053 Train F1 Landslides: 0.571843 Test F1 Background: 0.980057 Test F1 Landslides: 0.313129 63 Train loss: 0.004929 Test loss: 0.010629 Train F1 Background: 0.985949 Train F1 Landslides: 0.567105 Test F1 Background: 0.979577 Test F1 Landslides: 0.274928 64 Train loss: 0.00493 Test loss: 0.010955 Train F1 Background: 0.985936 Train F1 Landslides: 0.56637 Test F1 Background: 0.980045 Test F1 Landslides: 0.305597 65 Train loss: 0.004933 Test loss: 0.012227 Train F1 Background: 0.98606 Train F1 Landslides: 0.572045 Test F1 Background: 0.980701 Test F1 Landslides: 0.364108 66 Train loss: 0.004887 Test loss: 0.010226 Train F1 Background: 0.986132 Train F1 Landslides: 0.575157 Test F1 Background: 0.980126 Test F1 Landslides: 0.308078 67 Train loss: 0.004871 Test loss: 0.010766 Train F1 Background: 0.9861 Train F1 Landslides: 0.573769 Test F1 Background: 0.980035 Test F1 Landslides: 0.309106 68 Train loss: 0.004849 Test loss: 0.010531 Train F1 Background: 0.986226 Train F1 Landslides: 0.5793 Test F1 Background: 0.979868 Test F1 Landslides: 0.292955 69 Train loss: 0.004816 Test loss: 0.011352 Train F1 Background: 0.98621 Train F1 Landslides: 0.578494 Test F1 Background: 0.980006 Test F1 Landslides: 0.314718 70 Train loss: 0.00481 Test loss: 0.010828 Train F1 Background: 0.98626 Train F1 Landslides: 0.580716 Test F1 Background: 0.979887 Test F1 Landslides: 0.298496 71 Train loss: 0.004756 Test loss: 0.011011 Train F1 Background: 0.986341 Train F1 Landslides: 0.584248 Test F1 Background: 0.980224 Test F1 Landslides: 0.32393 72 Train loss: 0.004776 Test loss: 0.010888 Train F1 Background: 0.986316 Train F1 Landslides: 0.58315 Test F1 Background: 0.979822 Test F1 Landslides: 0.295788 73 Train loss: 0.00478 Test loss: 0.010849 Train F1 Background: 0.986385 Train F1 Landslides: 0.586254 Test F1 Background: 0.979654 Test F1 Landslides: 0.283332 74 Train loss: 0.004786 Test loss: 0.013055 Train F1 Background: 0.986296 Train F1 Landslides: 0.582287 Test F1 Background: 0.98109 Test F1 Landslides: 0.396078 75 Train loss: 0.004777 Test loss: 0.011183 Train F1 Background: 0.986314 Train F1 Landslides: 0.58317 Test F1 Background: 0.98032 Test F1 Landslides: 0.325993 76 Train loss: 0.004757 Test loss: 0.011369 Train F1 Background: 0.986404 Train F1 Landslides: 0.587039 Test F1 Background: 0.979903 Test F1 Landslides: 0.308834 77 Train loss: 0.00477 Test loss: 0.010942 Train F1 Background: 0.986311 Train F1 Landslides: 0.582962 Test F1 Background: 0.980543 Test F1 Landslides: 0.340552 78 Train loss: 0.004744 Test loss: 0.011124 Train F1 Background: 0.98642 Train F1 Landslides: 0.58784 Test F1 Background: 0.979447 Test F1 Landslides: 0.270816 79 Train loss: 0.004743 Test loss: 0.01126 Train F1 Background: 0.986375 Train F1 Landslides: 0.585757 Test F1 Background: 0.980748 Test F1 Landslides: 0.35765 80 Train loss: 0.004738 Test loss: 0.01063 Train F1 Background: 0.98648 Train F1 Landslides: 0.590381 Test F1 Background: 0.979449 Test F1 Landslides: 0.265437 81 Train loss: 0.004767 Test loss: 0.012734 Train F1 Background: 0.98635 Train F1 Landslides: 0.584744 Test F1 Background: 0.98055 Test F1 Landslides: 0.36239 82 Train loss: 0.004714 Test loss: 0.011138 Train F1 Background: 0.986456 Train F1 Landslides: 0.589329 Test F1 Background: 0.979896 Test F1 Landslides: 0.299297 83 Train loss: 0.004705 Test loss: 0.011425 Train F1 Background: 0.986523 Train F1 Landslides: 0.592216 Test F1 Background: 0.980019 Test F1 Landslides: 0.306609 84 Train loss: 0.00471 Test loss: 0.011825 Train F1 Background: 0.986399 Train F1 Landslides: 0.586777 Test F1 Background: 0.980482 Test F1 Landslides: 0.343744 85 Train loss: 0.004694 Test loss: 0.011753 Train F1 Background: 0.986604 Train F1 Landslides: 0.595717 Test F1 Background: 0.979803 Test F1 Landslides: 0.301143 86 Train loss: 0.004699 Test loss: 0.011466 Train F1 Background: 0.98649 Train F1 Landslides: 0.59085 Test F1 Background: 0.980162 Test F1 Landslides: 0.320958 87 Train loss: 0.004676 Test loss: 0.011236 Train F1 Background: 0.986514 Train F1 Landslides: 0.59178 Test F1 Background: 0.980112 Test F1 Landslides: 0.311816 88 Train loss: 0.004638 Test loss: 0.011408 Train F1 Background: 0.98665 Train F1 Landslides: 0.597625 Test F1 Background: 0.980317 Test F1 Landslides: 0.329416 89 Train loss: 0.00462 Test loss: 0.011422 Train F1 Background: 0.986682 Train F1 Landslides: 0.598942 Test F1 Background: 0.980153 Test F1 Landslides: 0.320628 90 Train loss: 0.004604 Test loss: 0.011924 Train F1 Background: 0.986699 Train F1 Landslides: 0.599667 Test F1 Background: 0.980254 Test F1 Landslides: 0.332043 91 Train loss: 0.004607 Test loss: 0.011695 Train F1 Background: 0.986673 Train F1 Landslides: 0.59854 Test F1 Background: 0.980016 Test F1 Landslides: 0.309676 92 Train loss: 0.004598 Test loss: 0.012121 Train F1 Background: 0.986667 Train F1 Landslides: 0.598273 Test F1 Background: 0.980416 Test F1 Landslides: 0.340201 93 Train loss: 0.00461 Test loss: 0.011428 Train F1 Background: 0.986674 Train F1 Landslides: 0.598622 Test F1 Background: 0.98022 Test F1 Landslides: 0.322529 94 Train loss: 0.004614 Test loss: 0.011496 Train F1 Background: 0.986746 Train F1 Landslides: 0.601683 Test F1 Background: 0.980037 Test F1 Landslides: 0.315124 95 Train loss: 0.004597 Test loss: 0.012093 Train F1 Background: 0.986741 Train F1 Landslides: 0.601456 Test F1 Background: 0.980248 Test F1 Landslides: 0.331993 96 Train loss: 0.004585 Test loss: 0.011936 Train F1 Background: 0.986788 Train F1 Landslides: 0.603459 Test F1 Background: 0.980327 Test F1 Landslides: 0.333822 97 Train loss: 0.004566 Test loss: 0.011874 Train F1 Background: 0.986787 Train F1 Landslides: 0.603378 Test F1 Background: 0.98038 Test F1 Landslides: 0.336615 98 Train loss: 0.004577 Test loss: 0.011929 Train F1 Background: 0.986775 Train F1 Landslides: 0.602932 Test F1 Background: 0.980103 Test F1 Landslides: 0.319547 99 Train loss: 0.004605 Test loss: 0.012828 Train F1 Background: 0.986785 Train F1 Landslides: 0.603394 Test F1 Background: 0.980291 Test F1 Landslides: 0.33831 100 Train loss: 0.004594 Test loss: 0.011279 Train F1 Background: 0.986757 Train F1 Landslides: 0.602222 Test F1 Background: 0.979831 Test F1 Landslides: 0.296063 101 Train loss: 0.004602 Test loss: 0.011987 Train F1 Background: 0.986766 Train F1 Landslides: 0.602556 Test F1 Background: 0.98 Test F1 Landslides: 0.310049 102 Train loss: 0.004594 Test loss: 0.012221 Train F1 Background: 0.986786 Train F1 Landslides: 0.603395 Test F1 Background: 0.980524 Test F1 Landslides: 0.349178 103 Train loss: 0.004575 Test loss: 0.011451 Train F1 Background: 0.986876 Train F1 Landslides: 0.607242 Test F1 Background: 0.98 Test F1 Landslides: 0.312444 104 Train loss: 0.004547 Test loss: 0.013387 Train F1 Background: 0.986861 Train F1 Landslides: 0.606593 Test F1 Background: 0.980471 Test F1 Landslides: 0.350914 105 Train loss: 0.004574 Test loss: 0.011923 Train F1 Background: 0.986793 Train F1 Landslides: 0.603677 Test F1 Background: 0.980385 Test F1 Landslides: 0.336105 106 Train loss: 0.004563 Test loss: 0.012949 Train F1 Background: 0.986852 Train F1 Landslides: 0.606237 Test F1 Background: 0.980877 Test F1 Landslides: 0.376545 107 Train loss: 0.004625 Test loss: 0.01319 Train F1 Background: 0.986781 Train F1 Landslides: 0.6033 Test F1 Background: 0.980052 Test F1 Landslides: 0.326134 108 Train loss: 0.004669 Test loss: 0.013035 Train F1 Background: 0.986601 Train F1 Landslides: 0.595637 Test F1 Background: 0.98059 Test F1 Landslides: 0.358699 109 Train loss: 0.004737 Test loss: 0.01279 Train F1 Background: 0.986587 Train F1 Landslides: 0.595222 Test F1 Background: 0.980389 Test F1 Landslides: 0.33764 110 Train loss: 0.004791 Test loss: 0.011923 Train F1 Background: 0.986466 Train F1 Landslides: 0.58992 Test F1 Background: 0.980168 Test F1 Landslides: 0.330248 111 Train loss: 0.004812 Test loss: 0.011642 Train F1 Background: 0.986477 Train F1 Landslides: 0.590555 Test F1 Background: 0.979183 Test F1 Landslides: 0.244183 112 Train loss: 0.004881 Test loss: 0.013249 Train F1 Background: 0.98632 Train F1 Landslides: 0.583759 Test F1 Background: 0.980783 Test F1 Landslides: 0.366583 113 Train loss: 0.0072 Test loss: 49.634804 Train F1 Background: 0.983547 Train F1 Landslides: 0.453792 Test F1 Background: 0.317075 Test F1 Landslides: 0.093802 114 Train loss: 0.010476 Test loss: 0.022297 Train F1 Background: 0.976989 Train F1 Landslides: 6.5e-05 Test F1 Background: 0.976346 Test F1 Landslides: 0.005728 115 Train loss: 0.009681 Test loss: 0.00985 Train F1 Background: 0.976989 Train F1 Landslides: 2e-06 Test F1 Background: 0.976406 Test F1 Landslides: 0.008315 116 Train loss: 0.009149 Test loss: 0.009311 Train F1 Background: 0.976994 Train F1 Landslides: 0.000466 Test F1 Background: 0.976325 Test F1 Landslides: 0.000119 117 Train loss: 0.008908 Test loss: 0.008346 Train F1 Background: 0.977055 Train F1 Landslides: 0.006218 Test F1 Background: 0.976336 Test F1 Landslides: 0.0011 118 Train loss: 0.008626 Test loss: 0.011709 Train F1 Background: 0.977277 Train F1 Landslides: 0.026517 Test F1 Background: 0.977179 Test F1 Landslides: 0.112312 119 Train loss: 0.00828 Test loss: 0.009045 Train F1 Background: 0.977594 Train F1 Landslides: 0.053696 Test F1 Background: 0.976328 Test F1 Landslides: 0.000411 120 Train loss: 0.008184 Test loss: 0.008173 Train F1 Background: 0.97797 Train F1 Landslides: 0.084942 Test F1 Background: 0.976675 Test F1 Landslides: 0.032342 121 Train loss: 0.00801 Test loss: 0.008832 Train F1 Background: 0.97849 Train F1 Landslides: 0.127323 Test F1 Background: 0.976504 Test F1 Landslides: 0.016186 122 Train loss: 0.00775 Test loss: 0.008196 Train F1 Background: 0.978891 Train F1 Landslides: 0.157657 Test F1 Background: 0.97754 Test F1 Landslides: 0.106192 123 Train loss: 0.007609 Test loss: 0.008921 Train F1 Background: 0.979737 Train F1 Landslides: 0.220225 Test F1 Background: 0.978501 Test F1 Landslides: 0.195714 124 Train loss: 0.007563 Test loss: 0.008889 Train F1 Background: 0.980066 Train F1 Landslides: 0.243206 Test F1 Background: 0.976762 Test F1 Landslides: 0.039098 125 Train loss: 0.007315 Test loss: 0.009489 Train F1 Background: 0.98039 Train F1 Landslides: 0.264722 Test F1 Background: 0.97856 Test F1 Landslides: 0.214419 126 Train loss: 0.007157 Test loss: 0.008381 Train F1 Background: 0.980916 Train F1 Landslides: 0.299034 Test F1 Background: 0.97857 Test F1 Landslides: 0.190574 127 Train loss: 0.006882 Test loss: 0.008415 Train F1 Background: 0.981673 Train F1 Landslides: 0.346571 Test F1 Background: 0.977926 Test F1 Landslides: 0.138223 128 Train loss: 0.0069 Test loss: 0.008711 Train F1 Background: 0.98148 Train F1 Landslides: 0.334051 Test F1 Background: 0.979118 Test F1 Landslides: 0.238427 129 Train loss: 0.006488 Test loss: 0.008707 Train F1 Background: 0.982607 Train F1 Landslides: 0.400397 Test F1 Background: 0.978637 Test F1 Landslides: 0.197852 130 Train loss: 0.006305 Test loss: 0.009258 Train F1 Background: 0.983096 Train F1 Landslides: 0.427252 Test F1 Background: 0.978403 Test F1 Landslides: 0.181214 131 Train loss: 0.006234 Test loss: 0.008754 Train F1 Background: 0.983153 Train F1 Landslides: 0.4303 Test F1 Background: 0.978808 Test F1 Landslides: 0.21373 132 Train loss: 0.006129 Test loss: 0.008637 Train F1 Background: 0.983476 Train F1 Landslides: 0.447523 Test F1 Background: 0.978423 Test F1 Landslides: 0.181766 133 Train loss: 0.005851 Test loss: 0.009021 Train F1 Background: 0.984024 Train F1 Landslides: 0.475876 Test F1 Background: 0.9791 Test F1 Landslides: 0.234753 134 Train loss: 0.005691 Test loss: 0.008997 Train F1 Background: 0.984185 Train F1 Landslides: 0.483659 Test F1 Background: 0.979781 Test F1 Landslides: 0.283103 135 Train loss: 0.005598 Test loss: 0.009324 Train F1 Background: 0.984477 Train F1 Landslides: 0.498484 Test F1 Background: 0.979599 Test F1 Landslides: 0.27226 136 Train loss: 0.005481 Test loss: 0.009694 Train F1 Background: 0.984693 Train F1 Landslides: 0.50892 Test F1 Background: 0.979757 Test F1 Landslides: 0.286857 137 Train loss: 0.00532 Test loss: 0.009215 Train F1 Background: 0.984884 Train F1 Landslides: 0.517923 Test F1 Background: 0.979391 Test F1 Landslides: 0.257868 138 Train loss: 0.005235 Test loss: 0.00969 Train F1 Background: 0.985118 Train F1 Landslides: 0.52904 Test F1 Background: 0.980069 Test F1 Landslides: 0.308798 139 Train loss: 0.00541 Test loss: 0.01096 Train F1 Background: 0.984967 Train F1 Landslides: 0.522311 Test F1 Background: 0.980844 Test F1 Landslides: 0.373472 140 Train loss: 0.005224 Test loss: 0.009559 Train F1 Background: 0.985157 Train F1 Landslides: 0.530921 Test F1 Background: 0.979163 Test F1 Landslides: 0.241623 141 Train loss: 0.005145 Test loss: 0.01019 Train F1 Background: 0.985387 Train F1 Landslides: 0.541628 Test F1 Background: 0.979698 Test F1 Landslides: 0.28738 142 Train loss: 0.005149 Test loss: 0.009125 Train F1 Background: 0.985428 Train F1 Landslides: 0.543578 Test F1 Background: 0.979221 Test F1 Landslides: 0.242806 143 Train loss: 0.005058 Test loss: 0.011083 Train F1 Background: 0.985625 Train F1 Landslides: 0.552581 Test F1 Background: 0.979879 Test F1 Landslides: 0.309131 144 Train loss: 0.004982 Test loss: 0.009875 Train F1 Background: 0.985684 Train F1 Landslides: 0.555251 Test F1 Background: 0.979865 Test F1 Landslides: 0.293838 155 Train loss: 0.0047 Test loss: 0.010571 Train F1 Background: 0.986446 Train F1 Landslides: 0.588971 Test F1 Background: 0.979598 Test F1 Landslides: 0.280445 156 Train loss: 0.004709 Test loss: 0.010869 Train F1 Background: 0.98646 Train F1 Landslides: 0.589596 Test F1 Background: 0.98046 Test F1 Landslides: 0.33877 157 Train loss: 0.004689 Test loss: 0.010437 Train F1 Background: 0.986546 Train F1 Landslides: 0.593408 Test F1 Background: 0.979504 Test F1 Landslides: 0.272127 158 Train loss: 0.00473 Test loss: 0.010631 Train F1 Background: 0.986468 Train F1 Landslides: 0.589897 Test F1 Background: 0.980379 Test F1 Landslides: 0.333106 159 Train loss: 0.00475 Test loss: 0.011966 Train F1 Background: 0.986567 Train F1 Landslides: 0.594473 Test F1 Background: 0.98037 Test F1 Landslides: 0.342185 160 Train loss: 0.004695 Test loss: 0.010847 Train F1 Background: 0.986527 Train F1 Landslides: 0.592608 Test F1 Background: 0.980163 Test F1 Landslides: 0.319198 161 Train loss: 0.004671 Test loss: 0.010548 Train F1 Background: 0.986559 Train F1 Landslides: 0.593901 Test F1 Background: 0.980079 Test F1 Landslides: 0.311775 162 Train loss: 0.004671 Test loss: 0.011223 Train F1 Background: 0.986605 Train F1 Landslides: 0.595885 Test F1 Background: 0.980858 Test F1 Landslides: 0.362794 163 Train loss: 0.004612 Test loss: 0.011133 Train F1 Background: 0.986688 Train F1 Landslides: 0.59944 Test F1 Background: 0.980252 Test F1 Landslides: 0.328113 164 Train loss: 0.004665 Test loss: 0.011053 Train F1 Background: 0.986602 Train F1 Landslides: 0.595682 Test F1 Background: 0.980689 Test F1 Landslides: 0.355349 165 Train loss: 0.004665 Test loss: 0.011056 Train F1 Background: 0.986736 Train F1 Landslides: 0.601612 Test F1 Background: 0.979845 Test F1 Landslides: 0.296198 166 Train loss: 0.004664 Test loss: 0.011366 Train F1 Background: 0.986578 Train F1 Landslides: 0.594691 Test F1 Background: 0.979595 Test F1 Landslides: 0.277061 167 Train loss: 0.004613 Test loss: 0.012765 Train F1 Background: 0.986661 Train F1 Landslides: 0.598256 Test F1 Background: 0.980792 Test F1 Landslides: 0.370914 168 Train loss: 0.004581 Test loss: 0.011372 Train F1 Background: 0.986744 Train F1 Landslides: 0.601747 Test F1 Background: 0.980471 Test F1 Landslides: 0.342625 169 Train loss: 0.004574 Test loss: 0.011908 Train F1 Background: 0.986812 Train F1 Landslides: 0.604588 Test F1 Background: 0.980768 Test F1 Landslides: 0.367702 170 Train loss: 0.004576 Test loss: 0.011538 Train F1 Background: 0.986861 Train F1 Landslides: 0.606661 Test F1 Background: 0.980791 Test F1 Landslides: 0.361997 171 Train loss: 0.004562 Test loss: 0.011743 Train F1 Background: 0.986929 Train F1 Landslides: 0.609595 Test F1 Background: 0.980645 Test F1 Landslides: 0.356685 172 Train loss: 0.004546 Test loss: 0.010901 Train F1 Background: 0.986877 Train F1 Landslides: 0.607293 Test F1 Background: 0.980191 Test F1 Landslides: 0.318552 173 Train loss: 0.004538 Test loss: 0.012144 Train F1 Background: 0.986992 Train F1 Landslides: 0.61224 Test F1 Background: 0.980504 Test F1 Landslides: 0.348635 174 Train loss: 0.004549 Test loss: 0.012027 Train F1 Background: 0.986849 Train F1 Landslides: 0.606067 Test F1 Background: 0.981005 Test F1 Landslides: 0.380846 175 Train loss: 0.004557 Test loss: 0.011177 Train F1 Background: 0.98702 Train F1 Landslides: 0.613383 Test F1 Background: 0.980279 Test F1 Landslides: 0.330715 176 Train loss: 0.004541 Test loss: 0.011223 Train F1 Background: 0.986973 Train F1 Landslides: 0.611355 Test F1 Background: 0.980353 Test F1 Landslides: 0.329841 177 Train loss: 0.004504 Test loss: 0.011514 Train F1 Background: 0.987063 Train F1 Landslides: 0.615126 Test F1 Background: 0.980094 Test F1 Landslides: 0.317867 178 Train loss: 0.004536 Test loss: 0.011918 Train F1 Background: 0.986932 Train F1 Landslides: 0.609696 Test F1 Background: 0.980941 Test F1 Landslides: 0.372581 179 Train loss: 0.004507 Test loss: 0.01176 Train F1 Background: 0.987009 Train F1 Landslides: 0.612911 Test F1 Background: 0.980573 Test F1 Landslides: 0.349364 180 Train loss: 0.004499 Test loss: 0.011492 Train F1 Background: 0.98709 Train F1 Landslides: 0.616314 Test F1 Background: 0.980184 Test F1 Landslides: 0.320174 181 Train loss: 0.004519 Test loss: 0.011238 Train F1 Background: 0.986993 Train F1 Landslides: 0.612189 Test F1 Background: 0.980166 Test F1 Landslides: 0.31807 182 Train loss: 0.004525 Test loss: 0.012104 Train F1 Background: 0.986964 Train F1 Landslides: 0.611024 Test F1 Background: 0.980748 Test F1 Landslides: 0.363368 183 Train loss: 0.004547 Test loss: 0.011523 Train F1 Background: 0.987024 Train F1 Landslides: 0.6136 Test F1 Background: 0.98033 Test F1 Landslides: 0.33478 184 Train loss: 0.004552 Test loss: 0.011607 Train F1 Background: 0.986977 Train F1 Landslides: 0.611687 Test F1 Background: 0.980177 Test F1 Landslides: 0.319868 185 Train loss: 0.004556 Test loss: 0.013568 Train F1 Background: 0.986932 Train F1 Landslides: 0.609735 Test F1 Background: 0.980653 Test F1 Landslides: 0.371586 186 Train loss: 0.004543 Test loss: 0.011571 Train F1 Background: 0.987002 Train F1 Landslides: 0.61266 Test F1 Background: 0.980087 Test F1 Landslides: 0.317219 187 Train loss: 0.004487 Test loss: 0.013076 Train F1 Background: 0.987057 Train F1 Landslides: 0.614839 Test F1 Background: 0.980649 Test F1 Landslides: 0.363957 188 Train loss: 0.004492 Test loss: 0.012134 Train F1 Background: 0.987104 Train F1 Landslides: 0.616822 Test F1 Background: 0.980527 Test F1 Landslides: 0.351322 189 Train loss: 0.004484 Test loss: 0.014341 Train F1 Background: 0.987084 Train F1 Landslides: 0.615959 Test F1 Background: 0.980848 Test F1 Landslides: 0.384584 190 Train loss: 0.004504 Test loss: 0.012201 Train F1 Background: 0.987105 Train F1 Landslides: 0.616907 Test F1 Background: 0.980509 Test F1 Landslides: 0.346223 191 Train loss: 0.004491 Test loss: 0.01298 Train F1 Background: 0.987104 Train F1 Landslides: 0.616817 Test F1 Background: 0.980832 Test F1 Landslides: 0.375831 192 Train loss: 0.004495 Test loss: 0.012401 Train F1 Background: 0.98714 Train F1 Landslides: 0.618374 Test F1 Background: 0.980373 Test F1 Landslides: 0.342492 193 Train loss: 0.00449 Test loss: 0.012024 Train F1 Background: 0.987076 Train F1 Landslides: 0.615779 Test F1 Background: 0.980309 Test F1 Landslides: 0.336098 194 Train loss: 0.00447 Test loss: 0.012279 Train F1 Background: 0.987084 Train F1 Landslides: 0.616017 Test F1 Background: 0.980591 Test F1 Landslides: 0.353536 195 Train loss: 0.004493 Test loss: 0.01432 Train F1 Background: 0.987086 Train F1 Landslides: 0.616085 Test F1 Background: 0.981299 Test F1 Landslides: 0.412337 196 Train loss: 0.004477 Test loss: 0.012385 Train F1 Background: 0.987142 Train F1 Landslides: 0.618494 Test F1 Background: 0.980497 Test F1 Landslides: 0.348717 197 Train loss: 0.00449 Test loss: 0.0132 Train F1 Background: 0.987083 Train F1 Landslides: 0.615981 Test F1 Background: 0.980847 Test F1 Landslides: 0.373222 198 Train loss: 0.004501 Test loss: 0.012792 Train F1 Background: 0.987103 Train F1 Landslides: 0.616877 Test F1 Background: 0.980448 Test F1 Landslides: 0.349427 199 Train loss: 0.004502 Test loss: 0.012327 Train F1 Background: 0.987082 Train F1 Landslides: 0.615903 Test F1 Background: 0.980631 Test F1 Landslides: 0.358612 Validation Loss: 0.011159 Val F1 Background: 0.983731 Val F1 Landslides: 0.386144
Run history:
| Test F1 Background | ▁▁▃▃▄▆▅▆▆▆█▇▇▇▇██▇▇▇▇▇▅▁▁▄▅▆▇▆▇▆▇██▇▇█▇█ |
| Test F1 Landslides | ▁▁▃▃▄▆▅▆▆▆█▇▇▇▇▇█▇▇▇▇▇▆▁▁▄▅▆▇▆▇▆▇██▇▇█▇█ |
| Test loss | █▂▁▁▁▁▁▁▂▂▂▂▂▂▂▂▃▂▂▂▂▃▂▁▁▁▁▁▂▂▂▂▂▃▂▂▂▃▂▂ |
| Train F1 Background | ▁▁▂▄▅▅▆▆▇▇▇▇▇▇▇▇▇██████▁▂▄▆▆▇▇▇█████████ |
| Train F1 Landslides | ▁▁▃▄▅▆▆▇▇▇▇▇▇██████████▁▂▅▆▇▇▇██████████ |
| Train loss | █▃▂▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.98063 |
| Test F1 Landslides | 0.35861 |
| Test loss | 0.01233 |
| Train F1 Background | 0.98708 |
| Train F1 Landslides | 0.6159 |
| Train loss | 0.0045 |
| Val F1 Background | 0.98373 |
| Val F1 Landslides | 0.38614 |
| Val Loss | 0.01116 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231014_220959-q2cca3lh/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Cropping¶
cropped_eda_train_data = SegmentationDataset(root='data', split='cropped', transform_mode='to_tensor')
cropped_eda_train_loader = DataLoader(cropped_eda_train_data, batch_size=64, shuffle=False)
cropped_eda_train_data_augmentation = SegmentationDataset(root='data', split='cropped', transform_mode='color_jitter')
cropped_eda_train_loader_augmentation = DataLoader(cropped_eda_train_data_augmentation, batch_size=64, shuffle=False)
images, masks = next(iter(cropped_eda_train_loader))
augmented_images, augmented_masks = next(iter(cropped_eda_train_loader_augmentation))
# Erstellen Sie eine Plotfigur
fig, axs = plt.subplots(20, 4, figsize=(16, 40)) # 20 Reihen, 4 Spalten
for i in range(20):
# Bild und Maske mit to_tensor Transformation
image = images[i].numpy().transpose((1, 2, 0))
axs[i, 0].imshow(image)
axs[i, 0].set_title(f'Beispiel {i + 1}: Bild ohne Augmentation')
mask = masks[i][0].numpy()
axs[i, 1].imshow(mask, cmap="gray")
axs[i, 1].set_title(f'Beispiel {i + 1}: Maske ohne Augmentation')
# Bild und Maske mit color_jitter Transformation
image = augmented_images[i].numpy().transpose((1, 2, 0))
axs[i, 2].imshow(image)
axs[i, 2].set_title(f'Beispiel {i + 1}: Bild mit Augmentation')
mask = augmented_masks[i][0].numpy()
axs[i, 3].imshow(mask, cmap="gray")
axs[i, 3].set_title(f'Beispiel {i + 1}: Maske mit Augmentation')
plt.tight_layout()
plt.show()
print("Grösser der Bilder:", images.shape)
print("Grösse der Masken:", masks.shape)
Grösser der Bilder: torch.Size([64, 3, 128, 128]) Grösse der Masken: torch.Size([64, 1, 128, 128])
unique_values = set()
for images, masks in cropped_eda_train_loader:
for mask in masks:
values = np.unique(mask.numpy())
unique_values.update(values)
print("Anzahl unterschiedlicher Klassen/Farbtöne: ", len(unique_values))
print("Die unterschiedlichen Klassen/Farbtöne: ", values)
Anzahl unterschiedlicher Klassen/Farbtöne: 2 Die unterschiedlichen Klassen/Farbtöne: [0. 1.]
def do_modeltrain_cropped(config, model, device, transform_train):
train_data = SegmentationDataset(root='data', split='cropped', transform_mode=transform_train)
train_loader = DataLoader(train_data, batch_size=config.batchsize, shuffle=True, num_workers = 10)
test_data = SegmentationDataset(root='data', split='test', transform_mode='to_tensor')
test_loader = DataLoader(test_data, batch_size=config.batchsize, shuffle=False, num_workers = 10)
val_data = SegmentationDataset(root='data', split='validation', transform_mode='to_tensor')
val_loader = DataLoader(val_data, batch_size=config.batchsize, shuffle=False, num_workers = 10)
loss_fn = nn.BCEWithLogitsLoss(pos_weight=torch.tensor([weight_1]).to(device))
optimizer = optim.Adam(model.parameters(), lr=config.learn_rate, weight_decay=config.l2_penalty)
for t in range(config.epochs):
train_loss, train_f1_background, train_f1_landslide= train_binary(train_loader, model, loss_fn, optimizer, device)
test_loss, test_f1_background, test_f1_landslide = test_binary(test_loader, model, loss_fn, device)
# Übermittlung der Daten an W&B
wandb.log({"Train loss": train_loss, "Test loss": test_loss, "Train F1 Background": train_f1_background, "Train F1 Landslides": train_f1_landslide, "Test F1 Background": test_f1_background, "Test F1 Landslides": test_f1_landslide})
print(t, "Train loss:", round(train_loss, 6), "Test loss:", round(test_loss, 6), "Train F1 Background:", round(train_f1_background, 6), "Train F1 Landslides:", round(train_f1_landslide, 6), "Test F1 Background:", round(test_f1_background, 6), "Test F1 Landslides:", round(test_f1_landslide, 6))
val_loss, f1_val_background, f1_val_landslide = validation_binary(val_loader, model, loss_fn, device)
wandb.log({"Val Loss": val_loss, "Val F1 Background": f1_val_background, "Val F1 Landslides": f1_val_landslide})
print("Validation Loss: ", round(val_loss, 6), "Val F1 Background: ", round(f1_val_background, 6), "Val F1 Landslides: ", round(f1_val_landslide, 6))
plot_samples_binary(train_loader, model, device, "Training")
plot_samples_binary(val_loader, model, device, "Validation")
wandb.config["Model Name"] = model.__class__.__name__
FCN¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Cropped FCN",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [80]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_cropped_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain_cropped(config, model, device, transform_train = "to_tensor")
torch.save(model.state_dict(), "weights/model_cropped_fcn.pth")
wandb.agent(sweep_cropped_fcn, function=main)
wandb.finish()
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
Create sweep with ID: thwqyfp1 Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/thwqyfp1
wandb: Agent Starting Run: 0ba7rr4d with config: wandb: batchsize: 64 wandb: epochs: 80 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving. wandb: Currently logged in as: patschue. Use `wandb login --relogin` to force relogin
/users/pschrman/DLBS_landslides/wandb/run-20231018_151925-0ba7rr4d
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/thwqyfp1
0 Train loss: 0.122549 Test loss: 0.032761 Train F1 Background: 0.977311 Train F1 Landslides: 0.0486 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 1 Train loss: 0.011139 Test loss: 0.020237 Train F1 Background: 0.99221 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.006593 Test loss: 0.019437 Train F1 Background: 0.99221 Train F1 Landslides: 0.000127 Test F1 Background: 0.976329 Test F1 Landslides: 0.000544 3 Train loss: 0.004957 Test loss: 0.014947 Train F1 Background: 0.992211 Train F1 Landslides: 0.000516 Test F1 Background: 0.976323 Test F1 Landslides: 1.3e-05 4 Train loss: 0.004079 Test loss: 0.019274 Train F1 Background: 0.992222 Train F1 Landslides: 0.003198 Test F1 Background: 0.976359 Test F1 Landslides: 0.004338 5 Train loss: 0.003633 Test loss: 0.01839 Train F1 Background: 0.992254 Train F1 Landslides: 0.01153 Test F1 Background: 0.976344 Test F1 Landslides: 0.01757 6 Train loss: 0.003315 Test loss: 0.010545 Train F1 Background: 0.992347 Train F1 Landslides: 0.035669 Test F1 Background: 0.976339 Test F1 Landslides: 0.001868 7 Train loss: 0.003152 Test loss: 0.010646 Train F1 Background: 0.992375 Train F1 Landslides: 0.042642 Test F1 Background: 0.976532 Test F1 Landslides: 0.020899 8 Train loss: 0.002926 Test loss: 0.019735 Train F1 Background: 0.992584 Train F1 Landslides: 0.094288 Test F1 Background: 0.977217 Test F1 Landslides: 0.189246 9 Train loss: 0.002805 Test loss: 0.014257 Train F1 Background: 0.992675 Train F1 Landslides: 0.115239 Test F1 Background: 0.977665 Test F1 Landslides: 0.174829 10 Train loss: 0.002726 Test loss: 0.043714 Train F1 Background: 0.99285 Train F1 Landslides: 0.155475 Test F1 Background: 0.969244 Test F1 Landslides: 0.259912 11 Train loss: 0.002674 Test loss: 0.030366 Train F1 Background: 0.992775 Train F1 Landslides: 0.139582 Test F1 Background: 0.973637 Test F1 Landslides: 0.238913 12 Train loss: 0.002594 Test loss: 0.018336 Train F1 Background: 0.9929 Train F1 Landslides: 0.166384 Test F1 Background: 0.977923 Test F1 Landslides: 0.166572 13 Train loss: 0.002545 Test loss: 0.013736 Train F1 Background: 0.993022 Train F1 Landslides: 0.193311 Test F1 Background: 0.97747 Test F1 Landslides: 0.149003 14 Train loss: 0.002444 Test loss: 0.012138 Train F1 Background: 0.993216 Train F1 Landslides: 0.233211 Test F1 Background: 0.97688 Test F1 Landslides: 0.059553 15 Train loss: 0.002418 Test loss: 0.017352 Train F1 Background: 0.993259 Train F1 Landslides: 0.242249 Test F1 Background: 0.976795 Test F1 Landslides: 0.098135 16 Train loss: 0.00238 Test loss: 0.019299 Train F1 Background: 0.993312 Train F1 Landslides: 0.252673 Test F1 Background: 0.975761 Test F1 Landslides: 0.106115 17 Train loss: 0.002329 Test loss: 0.016157 Train F1 Background: 0.993434 Train F1 Landslides: 0.276441 Test F1 Background: 0.977764 Test F1 Landslides: 0.242266 18 Train loss: 0.002345 Test loss: 0.01946 Train F1 Background: 0.993386 Train F1 Landslides: 0.267599 Test F1 Background: 0.977946 Test F1 Landslides: 0.229848 19 Train loss: 0.002261 Test loss: 0.038739 Train F1 Background: 0.993518 Train F1 Landslides: 0.291903 Test F1 Background: 0.970271 Test F1 Landslides: 0.206557 20 Train loss: 0.002586 Test loss: 0.01712 Train F1 Background: 0.992504 Train F1 Landslides: 0.07581 Test F1 Background: 0.976462 Test F1 Landslides: 0.060403 21 Train loss: 0.002411 Test loss: 0.023452 Train F1 Background: 0.992776 Train F1 Landslides: 0.138883 Test F1 Background: 0.975147 Test F1 Landslides: 0.185004 22 Train loss: 0.002312 Test loss: 0.019295 Train F1 Background: 0.993184 Train F1 Landslides: 0.226815 Test F1 Background: 0.975637 Test F1 Landslides: 0.136598 23 Train loss: 0.002242 Test loss: 0.05507 Train F1 Background: 0.993405 Train F1 Landslides: 0.270466 Test F1 Background: 0.965995 Test F1 Landslides: 0.261872 24 Train loss: 0.00216 Test loss: 0.015687 Train F1 Background: 0.9937 Train F1 Landslides: 0.325847 Test F1 Background: 0.977069 Test F1 Landslides: 0.15002 25 Train loss: 0.002133 Test loss: 0.020642 Train F1 Background: 0.993801 Train F1 Landslides: 0.343669 Test F1 Background: 0.97559 Test F1 Landslides: 0.185948 26 Train loss: 0.002155 Test loss: 0.053223 Train F1 Background: 0.993731 Train F1 Landslides: 0.330976 Test F1 Background: 0.968611 Test F1 Landslides: 0.315785 27 Train loss: 0.002184 Test loss: 0.0176 Train F1 Background: 0.993643 Train F1 Landslides: 0.315603 Test F1 Background: 0.977513 Test F1 Landslides: 0.222245 28 Train loss: 0.002118 Test loss: 0.020103 Train F1 Background: 0.993848 Train F1 Landslides: 0.352276 Test F1 Background: 0.976416 Test F1 Landslides: 0.188562 29 Train loss: 0.002042 Test loss: 0.064733 Train F1 Background: 0.99406 Train F1 Landslides: 0.388074 Test F1 Background: 0.96775 Test F1 Landslides: 0.328507 30 Train loss: 0.00199 Test loss: 0.034231 Train F1 Background: 0.994268 Train F1 Landslides: 0.422312 Test F1 Background: 0.973404 Test F1 Landslides: 0.277027 31 Train loss: 0.001959 Test loss: 0.03883 Train F1 Background: 0.994267 Train F1 Landslides: 0.421783 Test F1 Background: 0.972614 Test F1 Landslides: 0.291375 32 Train loss: 0.001928 Test loss: 0.059545 Train F1 Background: 0.994367 Train F1 Landslides: 0.43784 Test F1 Background: 0.968232 Test F1 Landslides: 0.290554 33 Train loss: 0.0019 Test loss: 0.04628 Train F1 Background: 0.994476 Train F1 Landslides: 0.45451 Test F1 Background: 0.973734 Test F1 Landslides: 0.351566 34 Train loss: 0.00189 Test loss: 0.040073 Train F1 Background: 0.994505 Train F1 Landslides: 0.459125 Test F1 Background: 0.971971 Test F1 Landslides: 0.248913 35 Train loss: 0.001867 Test loss: 0.038668 Train F1 Background: 0.99459 Train F1 Landslides: 0.471908 Test F1 Background: 0.974456 Test F1 Landslides: 0.319717 36 Train loss: 0.001822 Test loss: 0.029584 Train F1 Background: 0.994692 Train F1 Landslides: 0.487059 Test F1 Background: 0.975779 Test F1 Landslides: 0.292194 37 Train loss: 0.001829 Test loss: 0.06004 Train F1 Background: 0.994641 Train F1 Landslides: 0.479647 Test F1 Background: 0.968098 Test F1 Landslides: 0.292414 38 Train loss: 0.001819 Test loss: 0.056034 Train F1 Background: 0.994675 Train F1 Landslides: 0.484608 Test F1 Background: 0.970124 Test F1 Landslides: 0.317468 39 Train loss: 0.001775 Test loss: 0.025972 Train F1 Background: 0.994822 Train F1 Landslides: 0.505895 Test F1 Background: 0.97601 Test F1 Landslides: 0.249158 40 Train loss: 0.001773 Test loss: 0.043763 Train F1 Background: 0.994828 Train F1 Landslides: 0.506747 Test F1 Background: 0.972952 Test F1 Landslides: 0.328275 41 Train loss: 0.001728 Test loss: 0.079799 Train F1 Background: 0.994924 Train F1 Landslides: 0.52031 Test F1 Background: 0.967711 Test F1 Landslides: 0.314857 42 Train loss: 0.001723 Test loss: 0.072069 Train F1 Background: 0.994974 Train F1 Landslides: 0.527223 Test F1 Background: 0.968352 Test F1 Landslides: 0.345593 43 Train loss: 0.001733 Test loss: 0.048261 Train F1 Background: 0.99494 Train F1 Landslides: 0.522777 Test F1 Background: 0.971989 Test F1 Landslides: 0.315484 44 Train loss: 0.001713 Test loss: 0.033578 Train F1 Background: 0.995027 Train F1 Landslides: 0.534614 Test F1 Background: 0.975417 Test F1 Landslides: 0.321361 45 Train loss: 0.001678 Test loss: 0.029622 Train F1 Background: 0.995068 Train F1 Landslides: 0.540234 Test F1 Background: 0.975657 Test F1 Landslides: 0.2629 46 Train loss: 0.001666 Test loss: 0.050101 Train F1 Background: 0.995114 Train F1 Landslides: 0.546499 Test F1 Background: 0.972877 Test F1 Landslides: 0.324695 47 Train loss: 0.001652 Test loss: 0.048462 Train F1 Background: 0.995161 Train F1 Landslides: 0.552793 Test F1 Background: 0.973739 Test F1 Landslides: 0.344875 48 Train loss: 0.001646 Test loss: 0.060277 Train F1 Background: 0.995231 Train F1 Landslides: 0.562072 Test F1 Background: 0.970194 Test F1 Landslides: 0.317624 49 Train loss: 0.001628 Test loss: 0.0391 Train F1 Background: 0.995218 Train F1 Landslides: 0.560549 Test F1 Background: 0.9754 Test F1 Landslides: 0.351471 50 Train loss: 0.001615 Test loss: 0.058061 Train F1 Background: 0.995265 Train F1 Landslides: 0.566613 Test F1 Background: 0.972029 Test F1 Landslides: 0.347785 51 Train loss: 0.001586 Test loss: 0.049376 Train F1 Background: 0.995345 Train F1 Landslides: 0.577065 Test F1 Background: 0.973201 Test F1 Landslides: 0.33575 52 Train loss: 0.001588 Test loss: 0.035509 Train F1 Background: 0.995346 Train F1 Landslides: 0.577135 Test F1 Background: 0.974767 Test F1 Landslides: 0.259579 53 Train loss: 0.001566 Test loss: 0.084582 Train F1 Background: 0.995383 Train F1 Landslides: 0.581923 Test F1 Background: 0.968469 Test F1 Landslides: 0.351116 54 Train loss: 0.001546 Test loss: 0.062897 Train F1 Background: 0.995446 Train F1 Landslides: 0.590003 Test F1 Background: 0.971945 Test F1 Landslides: 0.360795 55 Train loss: 0.001533 Test loss: 0.05391 Train F1 Background: 0.995496 Train F1 Landslides: 0.596333 Test F1 Background: 0.972459 Test F1 Landslides: 0.349023 56 Train loss: 0.001547 Test loss: 0.052604 Train F1 Background: 0.995479 Train F1 Landslides: 0.59432 Test F1 Background: 0.972032 Test F1 Landslides: 0.306604 57 Train loss: 0.001554 Test loss: 0.077838 Train F1 Background: 0.995434 Train F1 Landslides: 0.588525 Test F1 Background: 0.969616 Test F1 Landslides: 0.362682 58 Train loss: 0.001544 Test loss: 0.051713 Train F1 Background: 0.995478 Train F1 Landslides: 0.594149 Test F1 Background: 0.972376 Test F1 Landslides: 0.301327 59 Train loss: 0.001526 Test loss: 0.048951 Train F1 Background: 0.995533 Train F1 Landslides: 0.601013 Test F1 Background: 0.973484 Test F1 Landslides: 0.335456 60 Train loss: 0.00153 Test loss: 0.053888 Train F1 Background: 0.995534 Train F1 Landslides: 0.601276 Test F1 Background: 0.971865 Test F1 Landslides: 0.327952 61 Train loss: 0.001533 Test loss: 0.064821 Train F1 Background: 0.995508 Train F1 Landslides: 0.598006 Test F1 Background: 0.972323 Test F1 Landslides: 0.366825 62 Train loss: 0.001599 Test loss: 0.031612 Train F1 Background: 0.995349 Train F1 Landslides: 0.577941 Test F1 Background: 0.974809 Test F1 Landslides: 0.096466 63 Train loss: 0.002024 Test loss: 0.034689 Train F1 Background: 0.99393 Train F1 Landslides: 0.3669 Test F1 Background: 0.974463 Test F1 Landslides: 0.271762 64 Train loss: 0.002005 Test loss: 0.032617 Train F1 Background: 0.993979 Train F1 Landslides: 0.375372 Test F1 Background: 0.972843 Test F1 Landslides: 0.192429 65 Train loss: 0.002224 Test loss: 0.011404 Train F1 Background: 0.993315 Train F1 Landslides: 0.253783 Test F1 Background: 0.977255 Test F1 Landslides: 0.090052 66 Train loss: 0.001937 Test loss: 0.041854 Train F1 Background: 0.994218 Train F1 Landslides: 0.414338 Test F1 Background: 0.972486 Test F1 Landslides: 0.297451 67 Train loss: 0.001743 Test loss: 0.051483 Train F1 Background: 0.994835 Train F1 Landslides: 0.508076 Test F1 Background: 0.972863 Test F1 Landslides: 0.352899 68 Train loss: 0.001631 Test loss: 0.047282 Train F1 Background: 0.995175 Train F1 Landslides: 0.554849 Test F1 Background: 0.974796 Test F1 Landslides: 0.360794 69 Train loss: 0.001577 Test loss: 0.038152 Train F1 Background: 0.995365 Train F1 Landslides: 0.579782 Test F1 Background: 0.974167 Test F1 Landslides: 0.300292 70 Train loss: 0.001543 Test loss: 0.047341 Train F1 Background: 0.995458 Train F1 Landslides: 0.591688 Test F1 Background: 0.973416 Test F1 Landslides: 0.326541 71 Train loss: 0.001519 Test loss: 0.045968 Train F1 Background: 0.995519 Train F1 Landslides: 0.599212 Test F1 Background: 0.974076 Test F1 Landslides: 0.341478 72 Train loss: 0.001514 Test loss: 0.056985 Train F1 Background: 0.995574 Train F1 Landslides: 0.60624 Test F1 Background: 0.972324 Test F1 Landslides: 0.346606 73 Train loss: 0.001491 Test loss: 0.055865 Train F1 Background: 0.995609 Train F1 Landslides: 0.610555 Test F1 Background: 0.972157 Test F1 Landslides: 0.341886 74 Train loss: 0.001482 Test loss: 0.050718 Train F1 Background: 0.995635 Train F1 Landslides: 0.613667 Test F1 Background: 0.973798 Test F1 Landslides: 0.362723 75 Train loss: 0.001472 Test loss: 0.055702 Train F1 Background: 0.99569 Train F1 Landslides: 0.620418 Test F1 Background: 0.973322 Test F1 Landslides: 0.37522 76 Train loss: 0.001461 Test loss: 0.056791 Train F1 Background: 0.995705 Train F1 Landslides: 0.622211 Test F1 Background: 0.973066 Test F1 Landslides: 0.355005 77 Train loss: 0.001448 Test loss: 0.048736 Train F1 Background: 0.99575 Train F1 Landslides: 0.62771 Test F1 Background: 0.974146 Test F1 Landslides: 0.344297 78 Train loss: 0.001453 Test loss: 0.069051 Train F1 Background: 0.995735 Train F1 Landslides: 0.625842 Test F1 Background: 0.971476 Test F1 Landslides: 0.361709 79 Train loss: 0.001453 Test loss: 0.040003 Train F1 Background: 0.995745 Train F1 Landslides: 0.627139 Test F1 Background: 0.975082 Test F1 Landslides: 0.316672 Validation Loss: 0.031265 Val F1 Background: 0.979809 Val F1 Landslides: 0.341427
Run history:
| Test F1 Background | ▇▇▇▇▇▂█▇▆█▇▆▇▁▇▅▁▄▆▂▄▁▆▄▂▄▆▄▄▄▄▆▄▄▆▅▄▅▄▆ |
| Test F1 Landslides | ▁▁▁▁▅▆▄▂▃▅▂▄▄▇▅▆▇▆▇▇▇█▇▇▇█▆█▇▇▇▃▅▇█▇███▇ |
| Test loss | ▄▂▂▁▂▅▂▁▂▂▂▂▂▆▂▄▇▄▃▆▅█▄▆▇▆▄▇▆▆▆▃▄▅▅▅▆▆▆▄ |
| Train F1 Background | ▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇███████████████▇▇██████ |
| Train F1 Landslides | ▂▁▁▁▂▃▃▄▄▄▂▄▅▅▅▆▆▆▆▆▇▇▇▇▇▇▇████▇▅▆▇█████ |
| Train loss | █▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97508 |
| Test F1 Landslides | 0.31667 |
| Test loss | 0.04 |
| Train F1 Background | 0.99575 |
| Train F1 Landslides | 0.62714 |
| Train loss | 0.00145 |
| Val F1 Background | 0.97981 |
| Val F1 Landslides | 0.34143 |
| Val Loss | 0.03126 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231018_151925-0ba7rr4d/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Deeplabv3¶
sweep_configuration = {
"method": "grid",
"name": "Semantische Segmentierung Cropped Deeplabv3",
"metric": {"goal": "minimize", "name": "Test loss"},
"parameters":
{
"epochs": {"values": [60]},
"learn_rate": {"values": [1e-3]},
"batchsize": {"values": [64]},
"l2_penalty": {"values": [0]},
}
}
sweep_cropped = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3", entity='patschue')
def main():
run = wandb.init()
config = run.config
model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
do_modeltrain_cropped(config, model, device, transform_train = "to_tensor")
torch.save(model.state_dict(), "weights/model_cropped_deeplab.pth")
wandb.agent(sweep_cropped, function=main)
wandb.finish()
Create sweep with ID: ua3b4dat Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/ua3b4dat
wandb: Agent Starting Run: tfimx6k9 with config: wandb: batchsize: 64 wandb: epochs: 60 wandb: l2_penalty: 0 wandb: learn_rate: 0.001 Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
/users/pschrman/DLBS_landslides/wandb/run-20231018_155857-tfimx6k9
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/ua3b4dat
0 Train loss: 0.188645 Test loss: 0.050789 Train F1 Background: 0.974842 Train F1 Landslides: 0.069904 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 1 Train loss: 0.027563 Test loss: 0.035057 Train F1 Background: 0.99221 Train F1 Landslides: 0.000192 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 2 Train loss: 0.012569 Test loss: 0.037021 Train F1 Background: 0.99221 Train F1 Landslides: 0.0 Test F1 Background: 0.975819 Test F1 Landslides: 0.002617 3 Train loss: 0.008266 Test loss: 0.030812 Train F1 Background: 0.992211 Train F1 Landslides: 0.000248 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 4 Train loss: 0.006266 Test loss: 0.02616 Train F1 Background: 0.992211 Train F1 Landslides: 0.00025 Test F1 Background: 0.976091 Test F1 Landslides: 0.000801 5 Train loss: 0.005183 Test loss: 0.023702 Train F1 Background: 0.992211 Train F1 Landslides: 0.00019 Test F1 Background: 0.976022 Test F1 Landslides: 0.000707 6 Train loss: 0.00453 Test loss: 0.027838 Train F1 Background: 0.992211 Train F1 Landslides: 0.000212 Test F1 Background: 0.976328 Test F1 Landslides: 0.000384 7 Train loss: 0.004085 Test loss: 0.026368 Train F1 Background: 0.992219 Train F1 Landslides: 0.002586 Test F1 Background: 0.976365 Test F1 Landslides: 0.003745 8 Train loss: 0.003787 Test loss: 0.019254 Train F1 Background: 0.99222 Train F1 Landslides: 0.002822 Test F1 Background: 0.976323 Test F1 Landslides: 0.0 9 Train loss: 0.003534 Test loss: 0.018495 Train F1 Background: 0.992222 Train F1 Landslides: 0.003409 Test F1 Background: 0.976384 Test F1 Landslides: 0.005501 10 Train loss: 0.003343 Test loss: 0.017343 Train F1 Background: 0.992262 Train F1 Landslides: 0.013625 Test F1 Background: 0.976444 Test F1 Landslides: 0.014803 11 Train loss: 0.003222 Test loss: 0.02751 Train F1 Background: 0.992287 Train F1 Landslides: 0.020111 Test F1 Background: 0.976976 Test F1 Landslides: 0.107986 12 Train loss: 0.003107 Test loss: 0.021269 Train F1 Background: 0.992291 Train F1 Landslides: 0.021626 Test F1 Background: 0.976616 Test F1 Landslides: 0.031169 13 Train loss: 0.003002 Test loss: 0.01636 Train F1 Background: 0.992348 Train F1 Landslides: 0.035952 Test F1 Background: 0.976615 Test F1 Landslides: 0.045504 14 Train loss: 0.002919 Test loss: 0.012257 Train F1 Background: 0.992455 Train F1 Landslides: 0.062819 Test F1 Background: 0.976669 Test F1 Landslides: 0.04377 15 Train loss: 0.002861 Test loss: 0.022082 Train F1 Background: 0.992462 Train F1 Landslides: 0.065024 Test F1 Background: 0.977333 Test F1 Landslides: 0.163625 16 Train loss: 0.002826 Test loss: 0.014667 Train F1 Background: 0.992545 Train F1 Landslides: 0.085132 Test F1 Background: 0.976663 Test F1 Landslides: 0.061771 17 Train loss: 0.002766 Test loss: 0.020743 Train F1 Background: 0.992534 Train F1 Landslides: 0.082277 Test F1 Background: 0.97733 Test F1 Landslides: 0.20377 18 Train loss: 0.002718 Test loss: 0.031188 Train F1 Background: 0.992608 Train F1 Landslides: 0.100577 Test F1 Background: 0.976046 Test F1 Landslides: 0.281485 19 Train loss: 0.002653 Test loss: 0.011951 Train F1 Background: 0.992712 Train F1 Landslides: 0.124754 Test F1 Background: 0.976505 Test F1 Landslides: 0.018988 20 Train loss: 0.002602 Test loss: 0.030958 Train F1 Background: 0.992777 Train F1 Landslides: 0.139716 Test F1 Background: 0.973759 Test F1 Landslides: 0.227132 21 Train loss: 0.002555 Test loss: 0.043547 Train F1 Background: 0.992903 Train F1 Landslides: 0.167491 Test F1 Background: 0.971221 Test F1 Landslides: 0.216213 22 Train loss: 0.002544 Test loss: 0.024668 Train F1 Background: 0.992859 Train F1 Landslides: 0.158098 Test F1 Background: 0.975684 Test F1 Landslides: 0.172446 23 Train loss: 0.002524 Test loss: 0.033021 Train F1 Background: 0.992879 Train F1 Landslides: 0.162184 Test F1 Background: 0.974678 Test F1 Landslides: 0.266045 24 Train loss: 0.002465 Test loss: 0.016728 Train F1 Background: 0.992994 Train F1 Landslides: 0.187484 Test F1 Background: 0.976922 Test F1 Landslides: 0.175181 25 Train loss: 0.002463 Test loss: 0.016665 Train F1 Background: 0.993002 Train F1 Landslides: 0.188845 Test F1 Background: 0.97642 Test F1 Landslides: 0.176499 26 Train loss: 0.002434 Test loss: 0.025067 Train F1 Background: 0.993032 Train F1 Landslides: 0.195598 Test F1 Background: 0.976865 Test F1 Landslides: 0.293606 27 Train loss: 0.00244 Test loss: 0.013686 Train F1 Background: 0.993092 Train F1 Landslides: 0.209006 Test F1 Background: 0.976483 Test F1 Landslides: 0.015461 28 Train loss: 0.002457 Test loss: 0.037841 Train F1 Background: 0.992876 Train F1 Landslides: 0.161502 Test F1 Background: 0.972668 Test F1 Landslides: 0.286742 29 Train loss: 0.002427 Test loss: 0.015597 Train F1 Background: 0.993056 Train F1 Landslides: 0.201158 Test F1 Background: 0.97687 Test F1 Landslides: 0.076043 30 Train loss: 0.002364 Test loss: 0.018515 Train F1 Background: 0.99319 Train F1 Landslides: 0.228282 Test F1 Background: 0.975485 Test F1 Landslides: 0.126211 31 Train loss: 0.002334 Test loss: 0.023987 Train F1 Background: 0.993248 Train F1 Landslides: 0.239831 Test F1 Background: 0.974749 Test F1 Landslides: 0.187737 32 Train loss: 0.002333 Test loss: 0.025571 Train F1 Background: 0.993304 Train F1 Landslides: 0.251129 Test F1 Background: 0.975103 Test F1 Landslides: 0.199518 33 Train loss: 0.002332 Test loss: 0.017564 Train F1 Background: 0.993276 Train F1 Landslides: 0.245575 Test F1 Background: 0.975804 Test F1 Landslides: 0.070909 34 Train loss: 0.002282 Test loss: 0.04282 Train F1 Background: 0.99334 Train F1 Landslides: 0.258111 Test F1 Background: 0.971139 Test F1 Landslides: 0.301723 35 Train loss: 0.002235 Test loss: 0.012971 Train F1 Background: 0.993495 Train F1 Landslides: 0.288101 Test F1 Background: 0.977045 Test F1 Landslides: 0.122691 36 Train loss: 0.002224 Test loss: 0.032886 Train F1 Background: 0.993491 Train F1 Landslides: 0.287072 Test F1 Background: 0.974301 Test F1 Landslides: 0.304908 37 Train loss: 0.002223 Test loss: 0.04675 Train F1 Background: 0.993539 Train F1 Landslides: 0.296635 Test F1 Background: 0.972253 Test F1 Landslides: 0.339919 38 Train loss: 0.002237 Test loss: 0.02316 Train F1 Background: 0.993429 Train F1 Landslides: 0.275711 Test F1 Background: 0.975795 Test F1 Landslides: 0.141456 39 Train loss: 0.002183 Test loss: 0.033694 Train F1 Background: 0.993581 Train F1 Landslides: 0.303975 Test F1 Background: 0.974294 Test F1 Landslides: 0.324101 40 Train loss: 0.002159 Test loss: 0.023165 Train F1 Background: 0.993676 Train F1 Landslides: 0.321542 Test F1 Background: 0.97594 Test F1 Landslides: 0.254816 41 Train loss: 0.002158 Test loss: 0.033631 Train F1 Background: 0.993672 Train F1 Landslides: 0.321011 Test F1 Background: 0.973602 Test F1 Landslides: 0.269864 42 Train loss: 0.0022 Test loss: 0.022761 Train F1 Background: 0.993467 Train F1 Landslides: 0.28294 Test F1 Background: 0.975722 Test F1 Landslides: 0.24224 43 Train loss: 0.002139 Test loss: 0.0306 Train F1 Background: 0.993659 Train F1 Landslides: 0.317931 Test F1 Background: 0.971974 Test F1 Landslides: 0.14352 44 Train loss: 0.002153 Test loss: 0.024598 Train F1 Background: 0.99371 Train F1 Landslides: 0.327493 Test F1 Background: 0.974464 Test F1 Landslides: 0.181659 45 Train loss: 0.002068 Test loss: 0.039587 Train F1 Background: 0.993875 Train F1 Landslides: 0.356628 Test F1 Background: 0.972387 Test F1 Landslides: 0.284274 46 Train loss: 0.002026 Test loss: 0.033997 Train F1 Background: 0.994036 Train F1 Landslides: 0.384055 Test F1 Background: 0.974523 Test F1 Landslides: 0.312253 47 Train loss: 0.002015 Test loss: 0.028859 Train F1 Background: 0.994054 Train F1 Landslides: 0.386981 Test F1 Background: 0.975089 Test F1 Landslides: 0.260365 48 Train loss: 0.002027 Test loss: 0.036157 Train F1 Background: 0.994059 Train F1 Landslides: 0.38799 Test F1 Background: 0.973535 Test F1 Landslides: 0.295066 49 Train loss: 0.002002 Test loss: 0.035548 Train F1 Background: 0.994094 Train F1 Landslides: 0.39387 Test F1 Background: 0.973835 Test F1 Landslides: 0.298662 50 Train loss: 0.001974 Test loss: 0.031558 Train F1 Background: 0.994165 Train F1 Landslides: 0.405459 Test F1 Background: 0.973949 Test F1 Landslides: 0.246285 51 Train loss: 0.001945 Test loss: 0.046378 Train F1 Background: 0.994263 Train F1 Landslides: 0.42139 Test F1 Background: 0.971262 Test F1 Landslides: 0.278629 52 Train loss: 0.001983 Test loss: 0.02834 Train F1 Background: 0.994148 Train F1 Landslides: 0.402908 Test F1 Background: 0.974785 Test F1 Landslides: 0.24343 53 Train loss: 0.00194 Test loss: 0.055174 Train F1 Background: 0.994269 Train F1 Landslides: 0.422246 Test F1 Background: 0.971202 Test F1 Landslides: 0.346679 54 Train loss: 0.001928 Test loss: 0.06131 Train F1 Background: 0.994327 Train F1 Landslides: 0.431559 Test F1 Background: 0.96762 Test F1 Landslides: 0.287129 55 Train loss: 0.001929 Test loss: 0.039712 Train F1 Background: 0.994303 Train F1 Landslides: 0.427559 Test F1 Background: 0.974305 Test F1 Landslides: 0.355389 56 Train loss: 0.001888 Test loss: 0.042223 Train F1 Background: 0.994435 Train F1 Landslides: 0.448362 Test F1 Background: 0.973697 Test F1 Landslides: 0.315903 57 Train loss: 0.001853 Test loss: 0.04572 Train F1 Background: 0.994518 Train F1 Landslides: 0.460888 Test F1 Background: 0.973483 Test F1 Landslides: 0.373911 58 Train loss: 0.001835 Test loss: 0.03138 Train F1 Background: 0.994577 Train F1 Landslides: 0.470072 Test F1 Background: 0.974978 Test F1 Landslides: 0.285734 59 Train loss: 0.00181 Test loss: 0.033797 Train F1 Background: 0.994661 Train F1 Landslides: 0.48246 Test F1 Background: 0.974588 Test F1 Landslides: 0.277804 Validation Loss: 0.026567 Val F1 Background: 0.979117 Val F1 Landslides: 0.298938
Run history:
| Test F1 Background | ▇▇▇▇▇▇▇▇▇▇██▇▇▄▇█▇▇▅▇▆▇▄▆▄▆▇▇▄▄▆▅▅▄▆▁▆▅▆ |
| Test F1 Landslides | ▁▁▁▁▁▁▁▁▂▂▄▂▆▁▅▄▄▄▁▆▃▅▂▇▇▇▇▆▆▄▆▇▇▇▆▆▆██▆ |
| Test loss | ▇▄▄▃▃▃▂▂▂▂▂▁▄▁▅▃▂▂▁▅▂▃▂▅▄▆▄▃▃▄▅▄▄▄▆▃█▅▆▄ |
| Train F1 Background | ▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇███████████████████ |
| Train F1 Landslides | ▂▁▁▁▁▁▁▁▁▂▂▂▂▃▃▃▄▄▄▃▄▄▅▅▅▅▅▆▅▆▆▇▇▇▇▇▇▇██ |
| Train loss | █▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁ |
| Val F1 Background | ▁ |
| Val F1 Landslides | ▁ |
| Val Loss | ▁ |
Run summary:
| Test F1 Background | 0.97459 |
| Test F1 Landslides | 0.2778 |
| Test loss | 0.0338 |
| Train F1 Background | 0.99466 |
| Train F1 Landslides | 0.48246 |
| Train loss | 0.00181 |
| Val F1 Background | 0.97912 |
| Val F1 Landslides | 0.29894 |
| Val Loss | 0.02657 |
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)
./wandb/run-20231018_155857-tfimx6k9/logs
wandb: Sweep Agent: Waiting for job. wandb: Sweep Agent: Exiting.
Test auf realen Daten¶
model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);
weights_path = 'weights/model_overfit_fcn2.pth'
model.load_state_dict(torch.load(weights_path));
model.eval()
def prepare_image(image_path):
input_image = Image.open(image_path).convert("RGB")
preprocess = transforms.Compose([
transforms.Resize((128, 128)),
transforms.ToTensor(),
])
input_tensor = preprocess(input_image)
return input_tensor.unsqueeze(0)
image_folder = 'data/planet'
image_files = [os.path.join(image_folder, file) for file in os.listdir(image_folder)]
fig, axs = plt.subplots(len(image_files), 3, figsize=(15, len(image_files) * 4))
with torch.no_grad():
for i, file in enumerate(image_files):
original_image = Image.open(file)
input_tensor = prepare_image(file)
input_tensor = input_tensor.to(device)
transformed_image = input_tensor.squeeze(0).cpu().numpy().transpose((1, 2, 0))
output = model(input_tensor)['out']
prediction_probs = torch.sigmoid(output)
preds = (prediction_probs > 0.5).float()
prediction = preds[0].squeeze(0).cpu().numpy()
# Originalbild anzeigen
axs[i, 0].imshow(original_image)
axs[i, 0].set_title(f'Originalbild {i + 1}')
axs[i, 0].axis('off')
# Transformiertes Bild anzeigen
axs[i, 1].imshow(transformed_image)
axs[i, 1].set_title(f'Transformiertes Bild {i + 1}')
axs[i, 1].axis('off')
# Vorhersagemaske anzeigen
axs[i, 2].imshow(prediction, cmap='gray')
axs[i, 2].set_title(f'Vorhersage {i + 1}')
axs[i, 2].axis('off')
plt.tight_layout()
plt.show()